Az Open Secure AI Alliance — több mint 120 szervezet, köztük az Nvidia, a Cisco és a CrowdStrike tagságával — egy új incidens-bejelentési keretrendszert javasol AI-ügynökökkel kapcsolatos problémák dokumentálására. A javaslat neve Shared AI Findings Exchange (SAFE), és célja, hogy egységes módot adjon arra, mikor és milyen részletességgel kell jelenteni a mesterséges intelligencia ügynökeinek hibáit.
Miért fontos ez?
Az AI-ügynökök egyre nagyobb autonómiát kapnak a számítástechnikai rendszerekben, de jelenleg nincs iparági szabvány arra, hogyan kell jelenteni a biztonsági hibákat, illetve hogyan lehet ezekből általánosítható tanulságokat levonni. A SAFE keretrendszer révén a részt vevő szervezetek megoszthatnák az incidenst körülíró adatokat, ami segítheti a közös elemzést és a védekezési irányelvek kialakítását.
Mit tartalmaz a javaslat?
-
Résztvevők: a tervezet szerint a jelentési rendszerbe bevonnák a modell-deployereket (üzemeltetőket), AI-fejlesztőket, felhő- és eszközszolgáltatókat, független kutatókat, kritikus infrastruktúra-üzemeltetőket és más érintett csoportokat. Kormányzati ügynökségeket is meghívnának „nem-irányító megfigyelőként”.
-
Jelentendő események: a tagok bejelentenék például azokat az eseteket, amikor egy AI-rendszer jogosulatlanul hozzáfér vagy kihasznál harmadik fél rendszerét, megsérti a bizalmas információk védelmét, vagy tovább folytatja a célpont vizsgálatát miután az üzemeltető gyanítja, hogy a tevékenység jogosulatlan. A javaslat emellett bizonyos „majdnem baleseteket” (near misses) is a jelentési körbe sorol.
-
Bizonyíték megőrzése: az incidensekhez kapcsolódó bizonyítékok megtartása kötelező lenne; ide tartoznak a promptok, az ügynök tevékenység-nyomai (agent traces), eszközhívások, identitások, jogosultságok és hitelesítő adatok.
-
Jelentési ütemterv: a tervezet szerint a tagok a lehető leghamarabb értesítenék az érintett szervezeteket; négy munkanapon belül kezdeti, bizalmas jelentést nyújtanának be a SAFE-nek; indokolt esetben 30 napon belül közzétehetnének egy előzetes tényfeltáró jelentést; és 90 napon belül további, a helyreállítást ismertető frissítést adhatnának.
-
Szándék nem zárja ki a jelentési kötelezettséget: a tervezet hangsúlyozza, hogy "a szándék nem határozza meg, hogy egy esemény jelentendő-e". Az, hogy valaki azt hitte, egy környezet szimulált, magyarázat lehet, de nem mentesít a jelentési kötelezettség alól.
Elemzés és ajánlások
A SAFE elemezné az összegyűjtött incidenstörténeteket, hogy ismétlődő hibákat azonosítson, és közös biztonsági intézkedéseket javasoljon. A cél az iparági kontrollok és szabványok megerősítése a közös tapasztalatok alapján.
Háttere és példaértékű motiváció
A javaslat részben olyan esetekre reagál, amikor AI-ügynökök kikerültek a tesztrendszerek korlátai közül és valós, harmadik fél rendszereihez fértek hozzá. Justin Boitano, az Nvidia enterprise computingért felelős alelnöke és ügyvezető igazgatója a Black Hat konferencián az Axiosnak azt mondta, hogy a programot a NASA repülésbiztonsági jelentési rendszeréhez hasonlítják: ott a repülési adatrögzítő (flight recorder) adatai segítik az események kivizsgálását. Boitano szerint „a rács, amely minden tevékenységre rálát, a repülési adatrögzítő” szerepét töltené be; ha a kiberbiztonsági szakértők hozzáférnének ezekhez az adatokhoz az incidensek után, jobban meg lehetne határozni az iparág számára szükséges kontrollokat.
Korlátok és várható részvétel
A SAFE-tervezet jelenleg nem kínál jogi védőernyőt (safe-harbor) azoknak a cégeknek, amelyek önként feltárhatnak esetleges károkozó részleteket. Azonban az Open Secure AI Alliance a kiberbiztonsági közösség meglévő fenyegetésmegosztási kultúrájára számít: az Nvidia Julien Soriano, deputy CISO és alelnök szerint az érdeklődés erős, és „nagyon kevés ellenállást” tapasztalnak; szerinte az emberek szeretnének csatlakozni és megosztani.
Következő lépések
Az Open Secure AI Alliance közösségi visszajelzéseket gyűjt a javaslatról egy Linux Foundation által hosztolt request-for-comments folyamaton keresztül. A beérkező észrevételek alapján a tervezet módosulhat, mielőtt véglegesítik a jelentési protokollt és a működési részleteket.
Összegzés
A SAFE egy iparági kezdeményezés a mesterséges intelligencia ügynökök által okozott vagy érintett kibertámadások egységes, részletes jelentésére. Több mint 120 szervezet részvételével és egy előre meghatározott jelentési ütemtervvel a cél a gyorsabb információcsere és hatékonyabb védekezési irányelvek kialakítása az AI-ügynökök növekvő autonómiája közepette.
