Az Anthropic váratlanul visszavonta a Claude Fable 5 és a Claude Mythos 5 mesterséges intelligencia-modellek elérhetőségét, miután az amerikai hatóságok szerint komoly biztonsági problémák merültek fel a fejlesztésekkel kapcsolatban. A két modell mindössze néhány nappal korábban vált elérhetővé, amikor a vállalat bejelentette az elérhetőség visszavonását.
Mi történt és miért állították le a szolgáltatást?
Az intézkedés hátterében az áll, hogy az amerikai hatóságok állítása szerint a Mythos modell súlyos biztonsági kockázatot jelentett. A részleteket kezdetben nem tették közzé, de később egy szenátusi meghallgatás és azt követő beszámolók alapján további információk láttak napvilágot.
A vállalat kezdetben csak amerikai állampolgárok számára engedte volna tovább a modellek használatát, de mivel az állampolgárság ellenőrzése a gyakorlatban nehézkes vagy lehetetlen, az Anthropic teljes leállítás mellett döntött. A visszavonás az Egyesült Államok szövetségeseit is érintette, és a bejelentés előzetes figyelmeztetés nélkül történt.
Szenátusi meghallgatás és a Mythos állítólagos képességei
A The Economist szerkesztősége által idézett jelentés szerint a Szenátus Hírszerzési Bizottságának meghallgatásán elhangzott, hogy az Anthropic Mythos modellje gyakorlatilag az összes, az NSA (National Security Agency) és az Egyesült Államok Kiberparancsnoksága által kezelt titkosított rendszerbe behatolt. Joshua Rudd, aki mindkét szervezet élén álló tábornokként szerepelt a meghallgatáson, azt állította, hogy a Mythos ezt néhány óra leforgása alatt tette meg.
A meghallgatáson elhangzott továbbá az a megjegyzés, hogy bár Kína jelenleg körülbelül egy évnyi lemaradásban van a mesterséges intelligencia terén, ez az előny végzetesen elveszhet, ha az Anthropic vagy más amerikai vállalatok olyan szintre jutnak, hogy az AI képes saját maga továbbfejleszteni önmagát.
Project Glasswing és a partneri tesztelés
A Mythos széles nyilvános közzététel helyett a vállalat Project Glasswing nevű kezdeményezésében mintegy 200 kiválasztott partnernek biztosított hozzáférést. A tesztelésben részt vett többek között az Amazon, az Apple, a Google, a Microsoft, az Nvidia, a JPMorgan és a Linux Foundation.
Az Anthropic állítása szerint a Mythos már több ezer sebezhetőséget azonosított különböző rendszerekben; ezek között 27 sebezhetőséget jelöltek meg az OpenBSD-ben, amelyet gyakran az egyik legbiztonságosabb operációs rendszerként tartanak számon. Ez az adat azzal mutatja be a modell potenciálját, hogy milyen mértékben képes sebezhetőségek feltárására.
Következmények: védelem és kockázat
A jelentések rámutatnak arra is, hogy a Mythos körüli korlátozások kettős hatásúak: míg nehezítik a kiberbűnözők és államilag támogatott hackerek dolgát, ugyanakkor korlátozzák azoknak a kutatóknak és cégeknek a hozzáférését is, akik a modellek segítségével erősebb védelmet akarnának kialakítani rendszereik számára.
A Glasswing példája jól szemlélteti, hogy az AI-hoz való hozzáférés stratégiai eszközzé válik. Ezt a felismerést Európa is osztja, ahol nő az igény a technológiai szuverenitás elérésére és arra, hogy a kritikus rendszerek védelmét ne kizárólag külső szereplők kontrollálják.
Összegzés
Az Anthropic lépése megmutatja, milyen gyorsan válhat egy fejlesztés nemcsak üzleti, hanem nemzetbiztonsági kérdéssé is. A Mythos kapcsán felmerült állítások súlyossága miatt a vállalat a teljes hozzáférés visszavonása mellett döntött, és a további vizsgálatok, a szenátusi meghallgatás, valamint a partneri tesztelések eredményei várhatók a további lépések meghatározásához.
