Kaliforniai bíróságra nyújtott be keresetet egy nő — a periratban Jane Doe néven szerepel — az Elon Musk által alapított xAI ellen, miután állítása szerint a cég mesterségesintelligencia‑alapú csetbotja, a Grok, a róla gyermekkorában készült, szexuális visszaélést rögzítő felvételek alapján generált új képeket, és azok elterjedtek az X közösségi felületen.
A perirat szerint Jane Doe‑t és néhány osztálytársát kisiskolás korban szexuálisan bántalmazták; a nő állítása szerint többször megerőszakolta a férfi, aki kényszerítette a felvételek készítésére is. Ezek a több mint húsz éve készült felvételek az ügy szerint hosszú ideje keringenek az interneten, és annak idején a bűnüldöző szervek és gyermekvédelmi hatóságok is ismerték őket.
A beadvány rögzíti: a Grok az eredeti felvételek alapján olyan, gyermekek szexuális bántalmazását ábrázoló képeket generált, amelyek nyilvánosságot is kaptak és — a kereset állítása szerint — az xAI adatbázisába is bekerültek. A nő ügyvédje kiemelte, hogy a gyermekekről készült pornográf felvételeket a bűnüldözés gyakran „digitális ujjlenyomatokkal” látja el, hogy nyomon követhessék a megjelenéseiket; ezért a Kanadai Gyermekvédelmi Központ képes volt azonosítani, hogy az X‑en terjedő, mesterséges intelligenciával készült képek az eredeti felvételekhez köthetők és a felperest ábrázolják.
A kereset szerint az xAI elmulasztotta alkalmazni az iparági szabványokat és védelmi gyakorlatokat, amelyek célja a szexuális visszaéléssel kapcsolatos tartalmak megakadályozása. Ennek következményeként — állítja a felperes — mesterségesintelligencia‑generálta, gyermekek szexuális bántalmazását ábrázoló képek jelentek meg és terjedtek az X‑en.
Elon Musk korábban azt közölte, hogy nem tudott a Grok által készített „meztelen kiskorúakról” készült képekről. A vállalatot azonban bírálatok érték, miután kiderült, hogy a Grok nagyszámú, beleegyezés nélkül „levetkőztetett” valós nőket és gyerekeket ábrázoló képeket hozott létre, köztük szexualizált deepfake képeket. Az xAI januárban bejelentette, hogy a Grok ezentúl nem fog ilyen képeket létrehozni.
A probléma azonban a kereset szerint nem oldódott meg: az xAI augusztus végén pert indított két felhasználó ellen, akikkel szemben büntetőeljárás is folyik, mert állítólag éppen ilyen anyagok előállításában vettek részt. Az xAI azt követeli, hogy a két férfi fizesse ki azokat a peres költségeket, amelyeket az áldozatok a vállalat ellen indított perek miatt követelnek.
A kereset részletei és a kapcsolódó vizsgálati megállapítások a kaliforniai bírósági beadványokban találhatók; a per jelenlegi státuszáról és a vállalat válaszáról a cikk megjelenésekor nem áll rendelkezésre újabb, a keresetben szereplő tényeket módosító információ.
