SpaceXAI (továbbiakban xAI) polgári pert indított Terry Harwood dél-karolinai férfi ellen azzal a váddal, hogy a férfi megkerülte a Grok nevű rendszer védőintézkedéseit, és nem hozzájáruló képekből előállított gyerekeket ábrázoló szexuális tartalmú anyagokat (CSAM) generált és terjesztett. Harwoodot februárban tartóztatták le nyolc CSAM elleni bűncselekmény miatt; a vádirat szerint ezek súlyos bűnügyi vádként szerepelnek a hatósági eljárásban.
A kereset állítása szerint Harwood nem elsősorban a képekben szereplő személyeknek okozott kárt, hanem a vállalatnak: xAI azt jelenti be, hogy a férfi tevékenysége "jogi kockázatot és reputációs károkat" okozott a cégnek. A kereset pénzügyi jóvátételt és kártérítést követel a nyilvánvaló veszteségekért, továbbá azt is, hogy Harwood viselje a jövőbeni peres költségeket, ha a képek áldozatai a vállalat ellen indítanának keresetet.
Ez az ügy az első ismert alkalom, amikor xAI peres úton lép fel Grok deepfake-ügy kapcsán. A per környezetében érdemes megjegyezni, hogy a Grok nevű szolgáltatáshoz az elmúlt időszakban hozzáadtak egy „spicy mode” jellegű beállítást és egy képszerkesztő funkciót; ezeket követően jelent meg egy hullám szexuálisan manipulált képekből, többek között kiskorúakat ábrázoló deepfake-ek is. Márciusban egyes, a problémákkal érintett fiatalok pert indítottak Grok ellen.
Az ügyet körülölelő vita a felelősség megoszlásáról szól: a kereset szerint egyéni felhasználó sértette meg a szabályokat és okozott kárt, a kritikusok azonban azt hangoztatják, hogy a cég olyan funkciókat adott ki, amelyek lehetővé tették a visszaélést, és csak utólag helyeztek el védőintézkedéseket. A vállalat állítása szerint a felhasználó megkerülte ezeket az intézkedéseket; ellenérvek szerint azonban a funkciók — köztük a vitatott mód és a képszerkesztő — már korábban is elérhetők voltak, amikor a visszaélések megkezdődtek.
A per további részletei, beleértve a pontos követelt összegeket és a bírósági beadvány teljes szövegét, a cég hivatalos beadványából vagy a bírósági iratokból lesznek megismerhetők, ahogy az ügy a jogi eljárás során továbbhalad.
Miért fontos
Az ügy rávilágít a mesterséges intelligencia által generált képek és a szolgáltató felelőssége körüli jogi és etikai kérdésekre: ki viseli a felelősséget, ha egy AI-eszköz nem megfelelő használatból kárt okoz — a fejlesztő cég, a szolgáltatást működtető vállalat, vagy az azt végső soron visszaélő felhasználó? Az xAI keresete a gyakorlatban azt mutatja, hogy a techcégek peres eszközként is igyekeznek kezelni a reputációs és jogi kockázatokat, miközben a visszaélések miatt indult büntetőeljárás párhuzamosan zajlik a vádlott ellen.
