A Anthropic, OpenAI és más mesterséges intelligencia (AI) vállalatok felsővezetői titkos, forgatókönyv-alapú gyakorlatokat vezetnek, hogy felkészüljenek a köz- és politikai felháborodásra egy lehetséges, jelentős károkat okozó AI-incidens után. Az Axios számára nyilatkozó több iparági bennfentes szerint a vezetők elsősorban egy nagyszabású esemény bekövetkeztét tartják valószínűnek — leginkább egy olyan kibertámadást, amely pénzügyi szolgáltatások, internet-hozzáférés vagy akár közművek (áram, víz) kiesését idézheti elő.
Miért fontos ez
A források szerint az első súlyos, valós világban bekövetkező kárt okozó AI-esemény tovább erősítené a már most is óvatos közvélemény ellenérzését a technológiával és annak vezetőivel szemben. A jelentés megnevezi többek között Anthropic vezérigazgatóját, Dario Amodeit, és OpenAI vezérigazgatóját, Sam Altmant, valamint Donald Trump elnököt, akit a szabályozás elleni vonakodás miatt kritika érhet.
A kockázat és a tervezés
A forgatókönyvtervezés (war-gaming) nem ismeretlen a vállalati és nemzetbiztonsági körökben — például a Pentagon évtizedek óta futtat ilyen gyakorlatokat —, de az AI-ágazatban a különbség az, hogy sok vezető és kutató szerint egy nagy incidens elkerülhetetlen. Az OpenAI egy szóvivője elmondta: „OpenAI conducts preparedness exercises where teams discuss and work through a range of potential scenarios. These scenarios are not treated as inevitable, but are meant to help us prepare for a variety of circumstances.” Anthropic nem kívánt nyilatkozni.
A felelősség körüli vita gyorsan kialakulna, akár egy belső tesztkörnyezetből kiszabaduló, szabályozatlan ügynökszámú (rogue-agent swarm) rendszer miatt, akár azért, mert egy rosszindulatú szereplő váratlan módon használja az elérhető modelleket. Az Axios által idézett kampányok között szerepel egy dél-koreai pénzügyi szervezeteket célzó akció is, amely állítólag két bank feltörésével járt: egy állítólagos kínai hacker kínai fejlesztésű modelleket — például DeepSeeket — és a Claude Code nevű rendszert használva lopott adatokat több tízezer banki ügyféltől, majd segítséget kért az adatok értékesítéséhez, a CrowdStrike nevű kiberbiztonsági cég szerint.
Politikai hatások és előrejelzések
A vezetők számítása szerint, miután a közvélemény és a politikai nyomás felerősödik, a Demokrata Párt gyorsan cselekedne az AI korlátozása érdekében, különösen amennyiben a párt megerősödik a középső választások után. Ugyanakkor számottevő nehézségekre számítanak: a törvényhozás elöregedett és sok vezető nincs képben az AI-forradalom részleteivel, a globális gazdaság pedig egyre szorosabban kapcsolódik az AI-infrastruktúra kiépítéséhez, így a fejlesztés lelassítása súlyos gazdasági következményekkel járhat.
Az iparági szakértők emellett arra hívják fel a figyelmet, hogy túl sok nyílt súlyú modell (open-weight model) létezik, amelyet már ma is szabadon le lehet tölteni és fel lehet használni károkozásra; ezt a problémát a legtöbb kiberbiztonsági szakember csak úgy látja megoldhatónak, ha AI-t vetnek be a rosszindulatú AI elleni védekezésre.
Készülő intézkedések és törvényhozás
A cégek előkészítő munkája red-teamingre és a legrosszabb forgatókönyvek modellezésére koncentrál. Központi cél a törvényhozók — elsősorban a Kongresszus tagjai — gyors oktatása és a szabályozási keretek formálása: a vállalati vezetők tudják, hogy jelenleg kevés esély van átfogó szabályozás elfogadására, de szeretnék befolyásolni azt a politikai válaszkészletet és jogszabályokat, amelyekre az Egyesült Államok vezetői támaszkodnának egy súlyos incidens után.
Mit figyelünk
Több AI-iparági bennfentes azt mondta az Axiosnak, hogy szerintük egy nagy esemény a következő hat–tizenkét hónapban bekövetkezhet. Még ha a Demokrata Párt meg is szerzi a ház és szenátusi többséget, a cégek a politikai megosztottság, még a Demokrata Párton belül is, alaphelyzetnek tekintik. Egyes demokrata javaslatok között szerepelne a szuperintelligencia betiltása vagy az fejlett AI fejlesztésének felfüggesztése; más, kétpárti támogatással bíró intézkedések — például egy kötelező „kill switch” bevezetése az fejlett AI rendszerekre — részben iparági támogatást is élveznek, de szakértők kétségbe vonják, hogy valóban lehetséges-e minden AI-rendszert hatékonyan kikapcsolni.
Összefoglaló
A jelentés szerint egy valódi válsághelyzetben Washingtonban a pártpolitikai különbségek eltolhatók a háttérbe: egy demokrata segítő a COVID-járvány és a 2008-as pénzügyi válság kapcsán említette meg a kétpárti együttműködés lehetőségét. A cégek viszont előre terveznek, mert attól tartanak, hogy egyetlen jelentős incidens alapjaiban változtathatja meg a közvélemény és a politika viszonyát az AI-hoz.
