A szülők november 2-án nyújtottak be keresetet egy kaliforniai bíróságon, azzal az állítással, hogy a Google mesterséges intelligencia-funkciói hozzájárultak 13 éves gyermekük súlyos mentális válságához — írja az Euronews.
A keresetben a kiskorút „Emma” néven tüntették fel. A család szerint Emma egy iskolától kapott Chromebookot használt, amelyen az iskola ugyan letiltotta a Google Gemini és az OpenAI ChatGPT alkalmazását, de a Google keresője továbbra is elérhető maradt. A keresőbe épített AI-funkciókat a kereset szerint a gyermek is használhatta.
Az eset lefolyása
Az iskola megfigyelőrendszere március 17-én észlelte, hogy a lány számítógépén egy „Temetés” című dokumentum található, és erről értesítette a szülőket. A kereset szerint a család anya figyelte meg később, hogy gyermeke búcsúlevelet ír, az apa pedig közbelépett, így sikerült megakadályozni a tragédiát.
A család ügyvédje azt állítja, hogy az eset azt bizonyítja: a jelenlegi biztonsági intézkedések nem nyújtanak megfelelő védelmet a kiskorú felhasználók számára. Szerintük az iskoláknak fontolóra kellene venniük a Google keresőjének letiltását, amíg a vállalat nem tudja garantálni a gyermekek biztonságát.
A Google reagálása
A Google visszautasítja a vádakat, és közölte, hogy rendszereiben vannak olyan védelmi mechanizmusok, amelyekkel az önkárosítással kapcsolatos veszélyes tartalmak kiszűrhetők. A vállalat szóvivője szerint az ügyet komolyan veszik, és vizsgálják a keresetben foglalt állításokat.
Szélesebb jogi kontextus
A mostani per nem egyedülálló: az elmúlt időszakban több technológiai cég, köztük az OpenAI is több keresetben szerepelt, amelyekben szülők azzal vádolják a vállalatokat, hogy a mesterséges intelligencia válaszai hozzájárulhattak gyermekük halálához vagy öngyilkossági kísérletéhez. A Google januárban több hasonló ügyben peren kívüli egyezségeket kötött.
A per egyik központi kérdése, hogy milyen felelősség terheli a technológiai vállalatokat akkor, ha AI-alapú szolgáltatásaikat gyermekek is használják, különösen mivel az ilyen technológiák egyre inkább beépülnek mindennapi szolgáltatásokba, például internetes keresőkbe.
Forrás: Euronews (és az ügyben megadott közlések).
