Az Anthropic felfüggesztette legújabb, legfejlettebb nyelvi modelljeit, a Claude Fable 5-öt és a Mythos 5-öt, miután az amerikai hatóságok nemzetbiztonsági aggályokra hivatkozva erre utasították a vállalatot. A döntésről a BBC számolt be; a leállítást az Anthropic a saját honlapján közzétett közleményben erősítette meg.
A cég közlése szerint a hatósági utasítás értelmében letiltották a Fable 5 hozzáférését a külföldi felhasználók elől, és az intézkedés miatt a Fable 5 és a Mythos 5 szolgáltatását azonnali hatállyal minden ügyfelük számára le kellett kapcsolniuk. Az Anthropic azt írta, hogy az amerikai nemzetbiztonsági szervek nem neveztek meg konkrét fenyegetést, viszont a kormányzat azonosított egy módszert, amellyel a modell biztonsági korlátai megkerülhetők.
A vállalat szerint megvizsgálták a bemutatott technikát, és véleményük szerint az csupán néhány, korábban ismert, kisebb biztonsági rés feltárására alkalmas. Hozzátették továbbá, hogy más, nyilvánosan elérhető modellek is képesek azonosítani hasonló sebezhetőségeket a biztonsági korlátok tényleges megkerülése nélkül.
Viták és teszteredmények
A Fable 5 megjelenését megelőzően is komoly viták övezték a modellt. Az Anthropic áprilisban néhány szervezetnek előzetes hozzáférést biztosított a rendszerhez, és maga a vállalat állította, hogy a modell túl erős a nyilvános kiadáshoz, mert képes számítógépes rendszerek feltörésére és biztonsági rések kiaknázására. Kritikusok ezt marketingfogásnak tartották.
A brit kormány MI-biztonsági intézetének tesztjei szerint a modell az esetek 73 százalékában képes volt kijátszani a védelmi rendszereket. Gina Neff, a londoni Queen Mary Egyetem felelős mesterséges intelligenciával foglalkozó professzora szerint ez „minőségi ugrást jelent a kiberbiztonsági képességek terén”.
Az Európai Unió is foglalkozott az üggyel: júniusban az EU hozzáférést kapott a Mythos modellhez, és a történet kapcsán az európai technológiai szuverenitás fontosságát hangsúlyozták. Az Európai Bizottság szóvivője közölte, hogy értékelik a helyzetet, miközben a testület éppen intézkedéseket jelentett be az amerikai és ázsiai technológiai függőség csökkentésére.
Feszültség az amerikai kormányzattal
Az Anthropic és a Trump-kormányzat viszonya feszült: Donald Trump nyilvánosan bírálta a vállalatot, míg Pete Hegseth korábbi védelmi miniszter az Anthropicot "ellátásilánc-kockázatnak" minősítette — olyan besorolás, amelyet amerikai cégekre korábban nem alkalmaztak, és jellemzően rivális vagy ellenséges országok vállalataira szoktak fenntartani.
Az Anthropic pert indított a Pentagon ellen emiatt a minősítés miatt. Egy amerikai bíró korábban kimondta, hogy a Pentagon utasítása nem hajtható végre, így az állami szervek a per ideje alatt továbbra is használhatják a cég eszközeit; ez a döntés azonban nem akadályozta meg a mostani, nemzetbiztonsági alapú hozzáféréskorlátozást.
Miért számít ez?
A Fable 5 és a Mythos 5 körüli vita a mesterséges intelligencia és kiberbiztonság metszéspontját érinti: a hatósági lépések, a függetlenségre és szuverenitásra vonatkozó politikai aggodalmak, valamint a technológiai szereplők és állami intézmények közötti jogi és biztonsági konfliktusok mind befolyásolják, hogy mely eszközök és hogyan válnak elérhetővé globálisan. Az ügy továbbra is figyelemre méltó mind a szabályozók, mind az iparági szereplők számára.
Címkék: Európai Unió, Donald Trump, kiberbiztonság, mesterséges intelligencia, per, Pentagon, nemzetbiztonság, szuverenitás, nyelvi modell, Pete Hegseth
