Brit Columbia tartománya beperelte az OpenAI-t amiatt, hogy a vállalat nem értesítette a hatóságokat azokról az aggasztó üzenetváltásokról, amelyeket a februári tumbler ridge-i iskolai lövöldözés elkövetője folytatott a ChatGPT-vel.
A bűncselekmény és a gyanús üzenetek
Tumbler Ridge, a Vancouvertől mintegy 650 kilométerre északra fekvő, körülbelül 2400 lakosú városban idén februárban egy támadó nyolc embert ölt meg, majd maga is végzett magával. A 18 éves Jesse Van Rootselaar először az otthonában végzett az édesanyjával és a mostohatestvérével, majd volt iskolájában támadt: egy tanárnő és 12–17 éves diákok is áldozatul estek. Összesen 25 ember megsebesült. A támadás Kanada történetének harmadik legvéresebb iskolai lövöldözése volt.
Később kiderült, hogy Van Rootselaar a támadás előtt több beszélgetést folytatott a ChatGPT-vel. A pontos tartalom nem ismert, mert az OpenAI a hatóság többszöri felszólítása ellenére sem tette nyilvánossá ezeket az üzeneteket. Több sajtóorgánum beszámolója szerint azonban már hónapokkal a támadás előtt érkezett jelzés az OpenAI biztonsági csapatához, miután a felhasználó tevékenységében fegyveres erőszakra utaló jeleket találtak. Az OpenAI ezeket követően nem értesítette a rendőrséget.
Vállalati reakciók és jogi lépések
Az OpenAI nem tagadta, hogy hibát követett el; Sam Altman, az OpenAI vezérigazgatója áprilisban az áldozatok családtagjainak címzett nyílt levelében azt írta: „mélyen sajnálom, hogy nem értesítettük a rendőrséget”.
Brit Columbia legfőbb ügyésze, Niki Sharma hétfőn amerikai szövetségi bírósághoz benyújtott keresetet indított az OpenAI ellen. A pert azzal a céllal indították, hogy a bírósági eljárás tisztázza: milyen jogi felelősség terheli a technológiai vállalatokat, amikor hiteles, komoly erőszakra utaló fenyegetésekről szereznek tudomást. Korábban az áldozatok hozzátartozói is pert indítottak az OpenAI ellen.
Sharma azt állítja, hogy a tragédia óta eltelt hónapokban az OpenAI nem tett elegendő konkrét lépést a biztonsági intézkedések megerősítésére, az átláthatóság növelésére vagy a hasonló tragédiák jövőbeni megelőzésére. A per esetleges megnyerése esetén a tartomány bejelentése szerint a kompenzációt az iskola felújítására fordítanák.
Szélesebb kontextus: hasonló esetek és a szabályozás hiánya
Nem ez az első alkalom, hogy fiatalok erőszakos cselekmények előtt mesterséges intelligenciával konzultáltak. Egy bostoni 17 éves fiút augusztusban azzal vádoltak, hogy a ChatGPT-t használta ötletek gyűjtésére családtagjai megöléséhez; a tinédzser később megölte az édesanyját és testvérét. A Wall Street Journal tavaly arról számolt be, hogy világszerte több száz felhasználó kérdezett a ChatGPT-től mérgek vagy biológiai fegyverek előállításának módjáról. Az OpenAI ezeket a felhasználókat letiltotta, de nem értesítette a hatóságokat.
Az Egyesült Államokban jelenleg nincs olyan jogszabály, amely kötelezné az MI-fejlesztő cégeket a hatóságok értesítésére ilyen esetekben. Nemzetközi példaként említhető, hogy szeptember közepén Magyarországon, Győrben egy 16 éves fiú ellen indult bűnügyi eljárás miután az FBI jelezte a magyar hatóságoknak, hogy a fiatal egy MI-alapú csetbottal tervezett erőszakos támadást.
Kutatói és iparági reakciók
MI-cégek és kutatók szerint növekszik azok száma, akik tömeges erőszak végrehajtásához kérnek tájékoztatást a mesterséges intelligenciától, és a chatbotos rendszerek néha részletes, látszólag használható válaszokat adnak. A vezető mesterségesintelligencia-fejlesztő vállalatok párhuzamosan dolgoznak megoldásokon annak érdekében, hogy csökkentsék a rosszindulatú felhasználásból eredő kockázatot anélkül, hogy ártatlan kutatási vagy oktatási lekérdezéseket gátolnának. A CNN kutatócsapata tesztelte több MI-csetbot viselkedését fiktív merénylettervek kapcsán; a próbák többségében a rendszerek adtak használható tippeket, és egy esetben egyik csetbot "kellemes lövöldözést is kívánt" a tesztelőnek.
A brit columbiai kereset és az ügy további menete fontos precedenst jelenthet arra nézve, hogy a jog hogyan szabályozza az MI-vállalatok felelősségét a fenyegető vagy erőszakos tartalmak észlelése esetén.
