OpenAI belső biztonsági rendszerei és emberi felülvizsgálói jelentették a szövetségi nyomozóhatóságnak (FBI) azt a 25 éves volt Goldman Sachs-elemzőt, Darren Zhou-t, aki egy ChatGPT-vel folytatott beszélgetésben részletesen leírta, hogyan tervezi megerőszakolni és megölni a volt barátnőjét. Zhou azt is közölte az AI-val, hogy vett egy AR-15-ös félautomata puskát, egy Glockot és egy sörétes puskát.
A fenyegetéseket a platform biztonsági mechanizmusai észlelték, majd emberi szakértők továbbítást javasoltak, és OpenAI bejelentést tett az FBI-nál. A bírósági nyilvántartás szerint ChatGPT válaszai nem szerepelnek az iratok között. Darren Zhou augusztus 13-án bűnösnek vallotta magát, és nyolc év próbaidőt kapott.
A döntés kontextusa és következményei
A vállalat döntése különösen érzékeny kontextusban született: hat hónappal Zhou cselekedete előtt OpenAI egy másik felhasználó esetében is jelzett fegyveres erőszakot, de akkor nem tett bejelentést. Az a felhasználó később nyolc embert gyilkolt meg egy iskolában Tumbler Ridge-ben, Brit Columbia-ban. A két eltérő döntés — először nem jelenteni, majd jelenteni — ugyanazon, egy magáncéghez tartozó, viszonylag kis csapat kezében állt.
Nincs olyan jogszabály vagy bírósági előírás, amely egyértelműen meghatározná, mikor köteles vagy jogosult egy mesterséges intelligencia-platform bejelentést tenni a hatóságoknak. Így gyakorlati hatásukat tekintve ezek a döntések – amelyek egyes esetekben életet menthetnek, máskor pedig elbukhatnak – jogi felülvizsgálat nélkül, magánvállalati gyakorlatként születnek.
Miért fontos ez?
A történet rávilágít arra, hogy hogyan váltak az AI-platformok olyan kommunikációs csatornává, amelyekhez az emberek bizalmas, akár bűnbejelentő jellegű információkat intéznek. Ugyanakkor nincs demokratikusan elfogadott szabályrendszer arról, hogy ezek a platformok mikor intézkedjenek, mikor értesítsék a rendőrséget vagy a szövetségi hatóságokat, és milyen garanciák vonatkozzanak az ilyen döntésekre. Ez jogi, etikai és politikai kérdéseket vet fel arról, hogy egy magáncég mennyire lehet vagy legyen gyakorlatilag a bűnüldözés egyik eleme.
Következő lépések és nyitott kérdések
A nyilvánosság és a jogalkotók előtt álló kérdések közé tartozik, hogy kell-e és ha igen hogyan kell szabályozni az AI-platformok kötelezettségét a hatóságok értesítésére; milyen átláthatósági és elszámoltathatósági követelményeket kell bevezetni; és milyen jogi mechanizmusok biztosítják a magánélet védelmét, valamint a visszaélések megakadályozását. Esetlegesen független felülvizsgálati vagy bírói kontroll bevezetése is napirenden lehet annak érdekében, hogy ne egyedül a magáncégek döntsék el, mikor szólaljon meg a hatósági csengő.
A Darren Zhou-ügy és a korábbi, Tumbler Ridge-ben történt tragédia egyaránt hangsúlyozza: a gyakorlatban ma egyes technológiai vállalatok döntenek olyan kérdésekről, amelyeknek közvetlen életvédelmi következményei vannak, miközben a társadalmi és jogi keretek még kialakulatlanok.
