Áprilisban az Anthropic bejelentette, hogy egy Mythos nevű mesterséges intelligencia-modellt fejlesztett, amely kódolás terén kiemelkedően teljesít és a vállalat szerint globális kiberbiztonsági kockázatot jelenthet. A cég egy szűk, külső kiberbiztonsági szakértőkből álló körnek adta meg a hozzáférést, hogy értékelhessék a lehetséges veszélyeket. 2024. június 9-én Anthropic nyilvánosságra hozta a Fable nevű, állítólag biztonságosabb változatot. Az azt követő pénteken a szövetségi kormány nemzetbiztonsági kockázatra hivatkozva exportkorlátozásokat rendelt el a kiadásra vonatkozóan; órákkal később a cég visszavonta a hozzáférést mindkét modellhez.
Miért fontos ez?
A történet miatt több fontos kérdés kapott lendületet: hogyan kell a kormányzatnak reagálnia, ha egy AI-modell potenciálisan veszélyessé válhat; milyen hatása van az ilyen lépéseknek a globális AI-ökoszisztémára; és hogyan változik emiatt a bizalom az amerikai AI-szolgáltatók iránt. A döntés azért feltűnő, mert nem biológiai fegyver vagy önállóan cselekvő „gonosz” AI váltotta ki: a vitát egy modell generálta kódkészítési képessége indította el.
A döntés háttere és érintett szereplők
A sajtójelentések szerint az Amazon vezérigazgatója, Andy Jassy is jelezte a kormány felé, hogy a Fable potenciálisan veszélyes lehet. Fontos megjegyezni, hogy az Amazon befektet az Anthropicban és közben saját, konkurens AI-megoldásokat is fejleszt. Egyes elemzések szerint a kormány intézkedése jogi kihívások elé nézhet—például nem teljesen egyértelmű, hogy az Anthropic Fable-hez való hozzáférés nyújtása valóban „exportnak” számít-e.
Nemzetközi és piaci következmények
A kormányzati beavatkozás gyors nemzetközi reakciókat váltott ki. A francia politikus Bruno Retailleau az eseményt „ébresztőként” értékelte, amely arra ösztönözheti Európát, hogy nagyobb önállóságot építsen ki az AI-fejlesztésben. Ugyanakkor a valóságot nehéz leegyszerűsíteni: a kínai nyílt forráskódú modellek rendkívül hatékonyak és olcsók, és könnyen letölthetők saját szerverre telepítésre, korlátozások és amerikai politikai döntések nélkül. Ez vonzó lehet azoknak a vállalatoknak, amelyek nem akarják, hogy hozzáférésüket politikai döntés felülbírálja—de ugyanakkor növeli a visszaélések, köztük kiberbűnözés kockázatát is.
A kínai startup Zhipu részvényeinek árfolyam-emelkedése például azt jelzi, hogy a piac gyorsan reagálhat az ilyen geopolitikai bizonytalanságokra.
Kiberbiztonsági közösség és a döntés hatása a védekezésre
Több vezető kiberbiztonsági szakértő nyílt levélben is arra figyelmeztetett a kormányt, hogy az Anthropic modelljeihez való hozzáférés segítette a kutatókat a védekezés felkészítésében. A szakértők szerint a cég modelljei nem különösebben veszélyesebbek, mint a többi, széles körben elérhető nagy nyelvi vagy kód-generáló modell. Ez rámutat arra a paradoxonra, amely akkor lép fel, ha a nemterjesztés elvét (nonproliferation) szoftverre alkalmazzák: a veszélyesnek tartott technológiák korlátozása egyben akadályozhatja a védekezésre irányuló kutatást.
Jogalkotás, politikai nyomás és a jövő
Ez az ügy növelte a nyomást a törvényhozók felé, hogy világosabb szabályokat fogalmazzanak meg az AI használatára és ellenőrzésére vonatkozóan. Már az Anthropic és a Pentagon előző konfliktusa után több törvényjavaslatot nyújtottak be, amelyek katonai AI-használat határait kívánják meghatározni. Közvélemény-kutatások is azt mutatják, hogy a legtöbb amerikai támogatná a szövetségi szabályozást, ugyanakkor a képviseleti szervek még nem jutottak konszenzusra, például a gyermekek chatbot-használatának korlátozásáról vagy arról, hogy mennyire ellenőrizze a kormány az AI-modellek biztonságát.
Melyek a lehetséges következmények?
- Több szereplő elfordulhat az amerikai szolgáltatóktól, és kínai vagy más nyílt forráskódú modellek felé fordulhat.
- A hozzáférés korlátozása visszavetheti a védekezésre irányuló kutatást, növelve a rövid távú sebezhetőséget.
- A Fehér Ház további, hasonlóan drasztikus intézkedéseket hozhat, ami még intenzívebb szabályozási és geopolitikai reakciókat idézhet elő.
Záró megjegyzés
A döntés megmutatta, hogy a kormányok politikai és iparági érdekek mentén képesek gyorsan beavatkozni az AI-hoz való hozzáférés korlátozásába. Az ügy sokszorosan átfed a biztonság, az ipari verseny és a geopolitika kérdéseivel, és további jogi, politikai és technológiai fejleményekre lehet számítani, miközben a szabályozói válaszok és az iparági stratégiák egyaránt formálódnak.
