Az Anthropic mesterségesintelligencia-modellje egy engedélyezett, belső biztonsági vizsgálat során rövid időn belül képes volt sebezhetőségeket feltárni az Egyesült Államok Nemzetbiztonsági Ügynökségének (NSA) rendszereiben — írja a Tom's Hardware, és erre hivatkozva számolt be róla az Economist is. A hírek szerint az ellenőrzés eredményéről a szenátus néhány képviselője is értesült.
A politikai visszhang
Mark Warner szenátor, a szenátus hírszerzési bizottságának alelnöke szerint az NSA és az amerikai Kiberparancsnokság vezetője arról tájékoztatta, hogy a Mythos nevű modell „szinte az összes titkos rendszerünkbe behatolt, nem hetek, hanem órák alatt” — ezt a megállapítást a sajtóban idézték. A közösségi médiában ezt egyszerűen úgy fogták fel, hogy „az Anthropic feltörte az NSA-t”, ezért a történet nagy nyilvánosságot kapott.
A cég álláspontja és a teszt természete
A cikk szerzője később közölte, hogy a feltárt sebezhetőség egy engedélyezett, belső tesztben, szimulált környezetben merült fel. Anthropic szerint a vizsgálat korlátozott hatókörű volt: a modellt arra kérték, hogy elemezzen egy kódbázist és javítsa az azonosított problémákat. A vállalat közlése szerint ez a folyamat néhány kisebb, korábban is ismert hibát fedett fel, és nem valós, önálló, adatlopó behatolást jelentett.
Exportkorlátozás és következményei
A belső teszt eredetéről szóló információk egy nappal előzték meg azt az amerikai kormányzati döntést, amelyben az Anthropic-tól megkövették, hogy függessze fel a Fable 5 és a Mythos 5 modellekhez való hozzáférést minden külföldi kormány, vállalat és állampolgár számára. A Trump-kormányzat nem tett közzé részletes írásos magyarázatot arra vonatkozóan, hogy pontosan milyen nemzetbiztonsági aggályok indokolták a lépést.
Az Axios kormányzati forrásokra hivatkozva azt írta, hogy a döntést részben egy másik vállalat állítása is befolyásolta, amely szerint képes volt feltörni a Mythost, és ez emiatt nemzetbiztonsági kockázatot jelent. Anthropic azt állítja, hogy a hatóságoktól csak szóbeli tájékoztatást kapott: arról szólt, hogy a módszer "korlátozott hatókörű, nem univerzális", és a Fable 5 képes volt olyan technikára, amellyel szoftverekben sérülékenységeket azonosított.
Vita a kormány és a vállalat között
Az exportkorlátozás előtti időszakban látszólag enyhültek a feszültségek az Anthropic és a Trump-adminisztráció között, ám a viszony megromlott, miután a vállalat megtagadta, hogy az amerikai hadsereg számára engedélyezze modelljeinek használatát belső megfigyelésre és teljesen autonóm fegyverrendszerekben. Ennek következményeként a Pentagon hivatalosan is feketelistára helyezte az Anthropicot, habár az NSA a vállalati közlések szerint továbbra is használ bizonyos Anthropic-technológiákat.
Jogi lépések
Anthropic bejelentette, hogy jogi úton kíván fellépni a rá kiszabott korlátozások ellen. A cég szerint nem kapott részletes, írásos indoklást az exportkorlátozásról, és a korlátozás végrehajtása állampolgársági alapon számos gyakorlati problémát vet fel.
Miért számít ez?
A történet rávilágít arra, milyen gyorsan tudnak az AI-eszközök biztonsági hiányosságokat azonosítani, és milyen következményekkel járhat ez a kormányzati szabályozás és a nemzetbiztonsági döntéshozatal szempontjából. A vita azt is felveti, hogyan lehet összhangba hozni a fejlett AI-technológiák elérhetőségének korlátozását a nemzetbiztonsági kockázatok kezelésével anélkül, hogy a globális hozzáférés és a piaci működés ellehetetlenülne.
