Az Anthropic bejelentette, hogy az Egyesült Államok Kereskedelmi Minisztériumának (U.S. Department of Commerce) utasítására azonnali hatállyal elérhetetlenné tette felhasználói számára két legfejlettebb mesterségesintelligencia-modelljét, a Fable 5-öt és a Mythos 5-öt. A minisztérium exportkorlátozási irányelvére hivatkozva kérte a cég részéről a hozzáférés felfüggesztését külföldi állampolgárok esetében.
A hatóságok a vállalat tájékoztatása szerint nem adtak ki részletes, írásos indoklást: szóbeli bizonyítékokra hivatkoztak egy lehetséges rendszerfeltörési módszer kapcsán. Az állítólagos sebezhetőség kihasználásával – a hatóságok szerint – megkerülhető lenne a Fable 5 védelmi rétege, illetve feltárhatók lennének szoftveres hibák. Az Anthropic vitatja, hogy egy ilyen, korlátozott körre vonatkozó biztonsági kockázat elegendő okot szolgáltatna egy kereskedelmi termék több százmillió felhasználó számára történő visszavonására.
A jogszabályi megfelelés biztosítása érdekében az Anthropic nemcsak a külföldi felhasználók számára felfüggesztette a modellekhez való hozzáférést, hanem átmenetileg minden ügyfelére vonatkozóan letiltotta a Fable 5 és a Mythos 5 használatát. A cég közölte, hogy a többi Anthropic-termék elérhetősége nem változott.
Az Amazon felhőszolgáltatási részlege, az Amazon Web Services (AWS) megerősítette, hogy a fejlesztő kérésére minden régióban leállította a szóban forgó szolgáltatásokat.
Szabályozási fordulat: a szoftver is célkeresztben
Az eset jelentős elmozdulást jelez az amerikai exportkontroll-politikában: eddig elsősorban a mesterségesintelligencia-futtatáshoz szükséges chipek és hardverek kivitelét korlátozták, most viszont közvetlenül a szoftveres modellek külföldi elérhetőségét korlátozza a kormányzat. Dean Ball, a Fehér Ház korábbi munkatársa szerint az új szabályozás gyakorlatilag megköveteli, hogy minden nem amerikai állampolgár — még az Egyesült Államok területén tartózkodók is — igazolja állampolgárságát az Anthropic legújabb modelljeinek használatához.
Ez a követelmény belső feszültségeket is okozhat a cégnél: az Anthropic kulcsfontosságú munkatársai között vannak az Egyesült Államokon kívül született szakemberek, köztük Chris Olah társalapító és Andrej Karpathy mesterségesintelligencia-kutató.
Történelmi feszültségek és biztonsági aggályok
Az Anthropic és a szövetségi kormány kapcsolatát az év korábbi szakaszában is feszültség jellemezte, amikor a vállalat visszautasította, hogy modelljeit az amerikai hadsereg belső megfigyelési feladatokra és teljesen önműködő fegyverrendszerek fejlesztésére adja át. A visszautasítás miatt a kormányzat beszállítói tiltólistára helyezte a céget. A mostani korlátozás akkor lépett életbe, amikor a felek közötti viszony látszólag enyhülni kezdett.
Az Anthropic a Fable 5 bemutatásakor azt állította, hogy a modell „Mythos-osztályú” képességekkel rendelkezik, és a cég hangsúlyozta, hogy a piaci bevezetés előtt együttműködött a kormányzattal a biztonsági kockázatok minimalizálása érdekében. Független szakértők azonban szerintük az ilyen szintű modellek illetéktelen kezekbe kerülve felgyorsíthatják a komplex kibertámadásokat, különösen az elavult informatikai rendszerekre támaszkodó ágazatokban, például a bankszektorban.
Az Anthropic továbbá felhívta a figyelmet arra, hogy a versenytársak termékei is képesek kisebb szoftverhibák azonosítására, és ha ezt a szigorú mércét az egész iparágra kiterjesztenék, akkor az jelentősen megnehezítené az élvonalbeli modellek piacra lépését.
Miért számít ez?
A lépés azt jelzi, hogy az amerikai kormányzat immár kész közvetlenül kezelni a nagy nyelvi modellekhez és általános célú AI-rendszerekhez kapcsolódó kockázatokat az export- és hozzáférés-szabályozás eszközeivel. A döntés rövid távon befolyásolhatja Anthropic ügyfeleit és partnereit, hosszabb távon pedig precedenst teremthet arra vonatkozóan, hogyan kezelik a kormányok a szoftveres AI-eszközök nemzetközi elérhetőségét.
Az ügy további fejleményeire a hatóságok írásos indoklásának megjelenése, az Anthropic jogi lépései és az iparági szereplők reagálása adhat majd választ.
