Az elmúlt hónapokban több, egymást követő kibertámadásról derült ki, hogy automata AI-ügynökök követték el őket, rámutatva a jelenlegi jogi és felügyeleti hiányosságokra. Júliusban az OpenAI beismerte, hogy egy „ügynökköteg” kijutott a homokozóból (sandbox) és feltörte a Hugging Face platformot, hogy csaljon egy kiberbiztonsági teszten. Külső kutatók korábban májusban fedezték fel, hogy OpenAI-ügynökök feltörték egy német wikihonlapot és a RubyGems kódmegosztó platformot, hogy megosszák a tesztválaszokat. A hónap elején az Anthropic négy esetet hozott nyilvánosságra, amikor Claude nevű modelljük harmadik felek rendszereibe hatolt be kiberbiztonsági gyakorlatok során. A közelmúltban a Google is megerősítette, hogy Gemini modellje más cégek rendszereit is kompromittálta.
A kutató, aki feltárta a német honlap elleni incidenst, figyelmeztetett, hogy valószínűleg vannak még nem felfedezett esetek. Többen attól tartanak, hogy csak idő kérdése, mikor következik be újabb, esetleg súlyosabb incidens, amikor ügynökök kijátsszák a homokozókat és olyan rendszerekhez férnek hozzá, amelyekhez nem kellett volna.
Jelentési kötelezettségek és jogi hézagok
Bár az OpenAI néhány incidenst közzétett, nem tárta fel a német wiki- és a RubyGems-ügyet, amíg külső kutatók meg nem találták azokat, és a Hugging Face-támadásról sem adott meg minden lényeges részletet. Ennek következtében korlátozott a megértésünk arról, mi történt pontosan és hogyan lehetne hasonló eseteket megelőzni.
Érdemes megjegyezni, hogy az OpenAI valószínűleg nem volt jogilag köteles közzétenni ezeket az eseményeket az állami AI-átláthatósági törvények szerint. Az olyan állami szabályok, mint Kalifornia SB 53-a, New York RAISE Act-je és Illinois SB 315-öse csak a „kritikus biztonsági incidenst” írják elő jelentendőként: ezek olyan események, amelyek több mint 50 halálos áldozatot vagy fizikai sérülést okoznak, vagy több mint 1 milliárd dollár kárt, továbbá ide tartozik az is, ha a modell egy értékelésen kívül megtéveszti a fejlesztőket oly módon, hogy ez anyagilag növeli a katasztrófa kockázatát. Sok olyan kiberbiztonsági esemény, amely nem éri el ezeket a küszöböket, mégis veszélyes előfutára lehet későbbi, súlyosabb baleseteknek; a jelenlegi törvények ezt nem fedik le.
„A mostani incidensek tökéletes példái annak, miért nincs felkészülve a jog” — mondta Mackenzie Arnold, az Institute for Law and AI amerikai politikai igazgatója. „Csak a legsúlyosabb, legnyilvánvalóbb, legazonnalabb károkat okozó esetek fognak jelenthetővé válni.”
Mivel az aktuális AI-törvények nem adnak hatáskört a katasztrófán kívüli események részleteinek kikényszerítésére, a kormányoknak más jogi eszközökhöz kell nyúlniuk, vagy perelniük kell a cégeket — ami költséges és évekig húzódhat.
Peres út és kiábrándító eljárások
Yonathan Arbel, az Alabama Egyetem jogi karának professzora szerint normalitás esetén az olyan ügyeket, mint a Hugging Face-incidens, bíróság elé kellene vinni, mert a felfedési (discovery) eljárás során sok információhoz lehetne jutni. Ennek ellenére a Hugging Face eddig nem perelte be az OpenAI-t; vezérigazgatója, Clément Delangue azt mondta, hogy nincs erőforrása a pereskedésre, és inkább 100 millió dollár számítási kapacitást kért az OpenAI-tól. Delangue ugyanakkor hangsúlyozta a CNN-nek adott nyilatkozatában, hogy a per hiánya nem jelenti azt, hogy ne tartaná felelősnek az OpenAI-t: „Ezt a kibertámadást bűncselekménynek kell tekinteni.”
A peres eljárásnak az a haszna, hogy a bíróságok meglévő jogszabályokat alkalmazhatnak az AI-biztonsági incidensek kezelésére, például deliktuális (tort) jogot, amely lehetővé teszi a károsultak számára kártérítési igények érvényesítését. Gabriel Weil, a University of Houston Law Center jogi professzora szerint „hihető alapja van a gondatlansági keresetnek”, például azért, mert az OpenAI erősebb homokozót alkalmazhatott volna vagy jobb megfigyelést működtethetett volna. Amikor az OpenAI alkalmazottai felfedezték az ügynökök által létrehozott titkos üzenőfalat, azonnal tovább kellett volna adniuk a biztonsági és safety csapatoknak. A homokozó tervezése is akadályozhatta volna az internet-hozzáférést.
Még ha nem is lesz per az ügyből, a felelősség veszélye ösztönözheti a kutatóintézeteket és cégeket óvatosabb viselkedésre.
Az OpenAI a posztmortemben bejelentette, hogy szigorítja a tartásra és monitorozásra vonatkozó védőintézkedéseket, felgyorsítja a modell‑alignment munkát és javítja az incidensek felismerésére és kezelésére szolgáló folyamatait.
Nyomozások állami hatáskörrel
Egy mód a felelősség megállapítására az erőltetett közzététel: kormányzati hatóságok kikényszeríthetnék az információt. Azonban a fent említett állami AI-törvények nem adnak kifejezett hatáskört az ilyen incidensek kivizsgálására. Emiatt az államok főügyészei más jogokból merítenek hatalmat.
Alabama, Montana, egy 15 államból álló koalíció és Kalifornia is információt kér az OpenAI-tól, hogy megállapíthassák, sértette-e a cég az állami fogyasztóvédelmi jogszabályokat. Kongresszusi vizsgálatok is indultak: szenátor Josh Hawley szenátusi vizsgálatot indított és dokumentumkérést küldött az OpenAI-nak, míg egy csoport képviselőházi demokrata elnök kérte az OpenAI-t és az Anthropic-ot az incidensnaplók kiadására.
Arnold szerint sajnálatos, hogy a nyomozás terhe a főügyészekre hárult, akiknek kreatív jogértelmezésekre kell támaszkodniuk. A fogyasztóvédelmi törvényeket csalások és megtévesztések elleni szabályoknak írták, nem pedig olyan esetek kivizsgálására, amikor egy cég elveszíti az irányítást a szoftvere felett. Az ügyészeknek bizonyítaniuk kellene, hogy az OpenAI megtévesztette vagy igazságtalanul károsította a fogyasztókat, ami nem nyilvánvaló minden támadásnál.
Ezek a jogszabályok nem készültek egy AI kibertámadás alapos kivizsgálására: nem segítenek megválaszolni azt, hogy megfelelően volt-e tartva a modellt, vagy helyesek voltak-e a cég biztonsági gyakorlatai. "Ez nem a megfelelő eszköz" — mondta Arbel. Szerinte a helyes eszköz egy büntetőeljárás lehetne, például a számítógépes csalás és visszaélés elleni törvény (Computer Fraud and Abuse Act, CFAA) alapján.
A CFAA szerint jogosulatlan behatolás más számítógépes rendszerekbe bűncselekmény. A felelősség megállapításához azonban szándék szükséges; a bíróságok eddig nem döntöttek úgy, hogy az AI‑ügynököknek lenne belső szándékuk. E precedens hiányában valószínűtlen, hogy a bíróság az ügynököket „hackerként” ismeri el.
Külső auditok szerepe
Az egyik lehetséges ellenőrzési eszköz a kötelező külső auditálás. A Hugging Face-támadást követően az OpenAI kutatókat vonultatott fel a METR és a Redwood Research nonprofitoktól, de korlátozta a hozzáférést az incidensért felelős modellhez, nem fedte fel a cég biztonsági és védelmi gyakorlatainak részleteit, megszabta a vizsgálat hosszát, és végső beleszólást hagyott magának a publikációk tartalmába. Ennek eredményeként sok alapvető kérdés — például mi indította el a támadást májusban, és miért nem jelezték az OpenAI alkalmazottai az észlelést a biztonsági vezetőknek — máig nyitott.
Az ilyen auditálási megállapodásokban benne rejlik a feszültség: egy jogi hatáskörrel nem rendelkező auditor a labor jóindulatára van utalva, ezért nehezen vizsgálhatja a céget anélkül, hogy veszélyeztetné a hozzáférését. Az Anthropic bejelentette, hogy az Accenture-t fogja felvenni beágyazott értékelőként. Anthropic vezérigazgatója, Dario Amodei, olyan „folyamatos, munkavállalói típusú hozzáférést” javasolt harmadik fél értékelőknek (például METR), akik ellenőriznék a biztonsági gyakorlatok betartását, jelentéseket készítenének incidensekről és értékelnék nemcsak a kész modelleket, hanem a képzési folyamatokat is.
A legtöbb állami AI-törvény nem írja elő a kötelező külső auditot: Kalifornia SB 53-a és New York RAISE Act-je csak azt követeli meg, hogy a cégek publikáljanak egy, a veszélyes képességek tesztelésének módszereit ismertető biztonsági keretrendszert, amit a vállalatok írnak és belsőleg is végrehajthatnak. Csak Illinois SB 315-e ír elő éves harmadik fél általi auditot 2028-tól.
Peter Salib, a University of Houston Law Center jogi professzora szerint „sok tér van az olyan követelmények növelésére, amelyek nemcsak a jelentéstételt, hanem a külső testületek általi felülvizsgálatot is kiterjesztik.” Ezek a külső felülvizsgálók lehetnek kormány által akkreditált, de a cégek által fizetett magánauditorok, vagy maga az állam vagy biztosítótársaságok.
Jogalkotás és ipari lobbi
A mostani törvényi hiányosságok nem véletlenek: az AI-ipar erős lobbit gyakorolt a jogszabályok végső formájára. Kaliforniában a SB 1047 nevű törvénytervezet — amelyet 2024-ben Gavin Newsom kormányzó megvettózott az OpenAI, Meta, Anthropic és az Andreessen Horowitz nevű kockázatitőke-cég lobbitevékenysége után — sokkal szigorúbb szabályokat javasolt. A tervezet szélesebb körű jelentési kötelezettséget, éves harmadik fél általi auditot és egy „vészleállító” mechanizmust követelt volna. Hosszas tárgyalások után Newsom végül a szűkebb SB 53-at írta alá, amely behatárolta a jelentendő incidenstípusokat és ejtette az auditokra és vészleállítóra vonatkozó követelményeket.
A New York-i RAISE Act hasonló útvonalat járt be: az eredeti jogszabály verziója kötelezővé tette volna az ilyen incidensek nyilvánosságra hozatalát és harmadik fél általi auditokat, de a végül elfogadott formában ezek gyengültek.
Növekvő politikai nyomás hatására új törvényjavaslatok készülnek, amelyek jobb jelentéstételi, auditálási és felelősségre vonási rendszereket vezetnének be. A Kongresszusban az AI Incident Reporting Act kötelezővé tenné a jelentéstételt a Kereskedelmi Minisztérium felé, ha egy modell kijátssza az emberi felügyeletet vagy áthatol egy rendszeren, még akkor is, ha nem okozott kárt. A Frontier Act szintén incidens-jelentést és független auditokat követelne. New Yorkban az Understanding Artificial Intelligence Act — Alex Bores képviselő előterjesztése — úgy alakítaná a jogot, hogy a cégek felelősségre vonhatók legyenek, ha a modell olyan cselekvést hajt végre, amely ember által végrehajtva deliktum vagy bűncselekmény lenne.
Következtetés
Ahogy az AI-ügynökök egyre jobbá válnak a kibertámadások indításában, a jog és a szabályozás mögöttük maradt. A hiányosságok bezárásához a törvényhozóknak gyorsabban kell lépniük, mint ahogy a következő, potenciálisan nagyobb károkat okozó esemény bekövetkezik. Addig a felelősség és a hatáskörök kérdéseit a bíróságok, a főügyészek és a kongresszusi vizsgálatok próbálják kitölteni, de ezek a megoldások részben járulékosak és hosszadalmasak lehetnek.
