Az Anthropic ideiglenesen leállította két nagy teljesítményű nyelvi modellje, a Claude Fable 5 és a Mythos 5 használatát, miután az amerikai hatóságok a megjelenést követő napokban biztonsági aggályokat jeleztek. Az intézkedésre azután került sor, hogy a Trump‑kormányzat kiadta az utasítást: nem amerikai állampolgárok számára tilos hozzáférést biztosítani a fejlesztéshez. Ennek következtében több, a cég kutatásában részt vevő nem amerikai munkatárs gyakorlatilag nem tud dolgozni a termékkel kapcsolatos feladatain.
Mit találtak a vizsgálatok?
A Wall Street Journal beszámolója szerint az Amazon kiberbiztonsági csapata olyan módszert demonstrált, amely egy sor parancs megadásával képes volt arra kényszeríteni a Fable 5‑öt, hogy használható információkat adjon kibertámadások lebonyolításához. Az Amazon hivatalosan nem kommentálta az értesülést. Az Anthropic azt közölte, hogy a hatóságok nem azonosítottak konkrét nemzetbiztonsági fenyegetést, ugyanakkor a cég saját vizsgálatai során több kisebb, viszonylag egyszerű sebezhetőséget is feltárt a fejlesztésekben.
A vállalat szerint a hatósági vizsgálat során találtak egy módszert, amellyel a rendszer „jailbreakelhető” — azaz a szolgáltatást védő korlátozások megkerülhetők, és ezzel illetéktelenek érzékeny információkhoz juthatnak vagy blokkolt funkciókat oldhatnak fel. A megjelenés előtt az Anthropic több védelmi intézkedést is bevezetett annak érdekében, hogy megnehezítse a rendszerek meghackelését.
Korábbi tesztek és aggodalmak
A BBC beszámolója szerint a pénzügyi, technológiai és kormányzati szereplők áprilisban korlátozott kiadásban tesztelték a modellt, és a próbák során tartalmi és biztonsági kockázatokról szóló aggályok merültek fel. Az Anthropic elismerte, hogy néhány szervezet számára a modell a megjelenés előtt hozzáférhető volt, mert a cég szerint az eszköz intelligenciája potenciálisan veszélyt jelenthet számítógépes rendszerekre nézve. Korábban a vállalat azt is jelezte, hogy a Fable 5 „túl erős ahhoz, hogy megjelenjen” — ezt a megfogalmazást azonban kritikusok a bevezetés előtti túlzónak tekintették.
Kate Koren, az Egyesült Államok kereskedelmi minisztériumának korábbi tisztviselője úgy nyilatkozott, hogy a felfedezett hiba nem tekinthető tényleges jailbreaknek, és a Fehér Ház intézkedését részben az Anthropic iránti ellenszenv motiválhatta.
Politikai és stratégiai következmények Európában
Anthropic döntése nemzetközi hatásokat váltott ki: az Euronews szerint a cég lépése után európai politikusok riadót fújtak, mert a kontinens így közvetlenül sem fér hozzá a fejlesztéshez. Döntéshozók szerint az eset rávilágít Európa jelentős technológiai függőségére a nagy külföldi AI‑szolgáltatóktól, és sürgetik a saját, szuverén mesterséges intelligencia‑kapacitások fejlesztését és a leválás megkezdését.
Összegzés
Az Anthropic leállítása arra hívja fel a figyelmet, hogy a fejlett nyelvi modellek bevezetése során a biztonsági aggályok, a szabályozói intézkedések és a nemzetközi hozzáférési korlátozások gyorsan politikai és gazdasági következményekhez vezethetnek. A mostani esetben a cég két modelljének hozzáférését függesztették fel, miközben az érintett hatóságok és cégek vizsgálatai sebezhetőségeket és potenciális kockázatokat azonosítottak, ami különösen érzékennyé teszi a nemzetközi együttműködést és az Európa‑függés kérdését.
