Az Anthropic legújabb, Mythos nevű mesterségesintelligencia-modellje olyan hatékonyan képes volt szoftverhibákat feltárni — és egy esetben kihasználó kódot is generálni —, hogy az ügyet az Egyesült Államok kormánya gyorsan szabályozási lépéssel kezelte: betiltotta a külföldi felhasználók hozzáférését, miközben a fejlesztőcég ideiglenesen teljesen leállította a rendszert.
Mi történt és mikor
Nicholas Carlini, az Anthropic biztonsági kutatója márciusban, egy San Francisco-i szakmai konferencián demonstrálta a Mythos képességeit. A bemutató során a modell segítségével olyan kritikus sérülékenységeket találtak a Ghost tartalomkezelő rendszerben és a Linux-kernelben, amelyeket korábban manuálisan nem sikerült azonosítani. Carlini a konferencián kijelentette, hogy a jelenlegi modellek már jobb sérülékenységvizsgálók, mint ő maga.
Két nappal a bemutató után Carlini egy belső feljegyzésben azt javasolta az Anthropic vezetésének, hogy halasszák el a Mythos nyilvános bevezetését. A modell több ezer futtatás során 479 hibát azonosított a Linux forráskódjában, és ezek közül legalább egyhez működő exploitot is előállított. Az általa kidolgozott, később "Carlini-hurok" néven ismert utasítássorozatot azóta más biztonsági kutatók is széles körben használják.
A Mythos-szal kapcsolatos feszültség tovább nőtt, amikor az Anthropic piacra vitte a Mythos 5-öt és annak biztonsági korlátokkal ellátott változatát, a Fable 5-öt. Amazon-kutatók a megjelenést követően azt találták, hogy a Fable védelmi vonalai megkerülhetők, és a rendszer olyan sérülékenységeket is képes feltárni, amelyeket a korlátozásoknak meg kellett volna akadályozniuk. Andy Jassy, az Amazon vezérigazgatója tájékoztatta Scott Bessent pénzügyminisztert a kockázatokról.
Független szakértők később megjegyezték, hogy a Fable-t nem sikerült teljes mértékben feltörni, és így azt valós kibertámadásokhoz közvetlenül nem tudták volna felhasználni. Ennek ellenére az amerikai kormányzat gyorsan közbelépett: Sean Cairncross, az adminisztráció kiberbiztonsági igazgatója ultimátumban szólította fel Dario Amodeit, az Anthropic vezérigazgatóját, hogy kilencven percen belül vonják vissza a modellt, különben életbe léptetik a külföldi hozzáférés korlátozását.
Végül Trump elnök Howard Lutnickot bízta meg az üggyel; Lutnick hivatalos levélben értesítette az Anthropicot a külföldi felhasználókra vonatkozó korlátozás életbe lépéséről. A tiltás az Egyesült Államok területén dolgozó külföldi állampolgárokra is kiterjed, így az Anthropic saját nemzetközi kutatócsapatát is érintette.
Hatások és következmények
Az incidens tovább élezte a feszültséget a kormányzat és a technológiai vállalatok között, amely már korábban is fennállt olyan kérdések miatt, mint a mesterséges intelligencia katonai alkalmazása, a Kínába irányuló félvezető-export és az Anthropic politikai kapcsolatai. Ezt tetézte, hogy Trump elnök június elején elnöki rendeletet adott ki, amely szerint a fejlesztőknek harminc nappal a nyilvános bemutató előtt hozzáférést kell biztosítaniuk az állami szerveknek az új modellekhez.
A Mythos eddig több mint tízezer hibát azonosított összességében; Carlini kiemelte a Ghost esettel kapcsolatos kockázatot: a hiba bejelentését és javítását követően a támadók az frissítés elemzésével visszafejtették a sérülékenységet, és áprilisig több mint hétszáz weboldalt törtek fel.
Carlini szerint már csak hónapok kérdése, hogy más mesterségesintelligencia-modellek is elérjék a Mythos képességszintjét. A széles körben elterjedt, de viszonylag kevéssé tesztelt szoftveres infrastruktúrára épülő gazdaságokban az ilyen modellek soha nem látott mennyiségű biztonsági rést képesek feltárni, ami alapvetően átrendezheti a kiberbiztonság támadó és védő oldalai közötti egyensúlyt.
Jelen állapot
A cég ideiglenes leállítást rendelt el a Mythos fölött, és a kormány korlátozásai miatt a modellhez való külföldi hozzáférés tiltott. A felek között azóta is folynak egyeztetések; kormányzati tisztviselők szerint az Anthropicnak el kellene ismernie hibákat a Fable bevezetésében, és javítania kell a Fehér Házzal folytatott kommunikáción.
(További kapcsolódó fejleményekről a cikk forrásaiban idézett adatok tudósítanak.)
