Anthropic alapító-vezérigazgatója, Dario Amodei hétfő délután reagált az iparági találgatásokra, amelyek szerint cége támogatná az Egyesült Államok kormányzati lépéseit az úgynevezett open-weight (nyílt súlyú) kínai modellek, vagy akár az általános open-weight modellek betiltására. Amodei világosan leszögezte: „Anthropic soha nem szorgalmazott open-weights modellek betiltását”, és korábbi írásaira hivatkozva megismételte, hogy nem tartja hasznos intézkedésnek az ilyen tilalmakat.
Válasza egy múlt heti eseménysorozathoz kapcsolódik: Jensen Huang, az Nvidia alapító-vezérigazgatója pénteken — első bejegyzésében az X platformon — egy nyílt levelet osztott meg, amelyben az Nvidia és több más, mesterséges intelligenciával foglalkozó vállalat, köztük a Hugging Face, Meta, Microsoft és Mistral arra kérte a döntéshozókat, hogy ne vezessenek be túl korai, széles körű korlátozásokat az open-weight AI modellekre.
Különbség a publikus modellek és az állami fenyegetés között
Amodei a hétfőn közzétett blogbejegyzésben azt írta, hogy szerinte az open-weight modellek más kategóriát képviselnek, mint a Kína által jelentett fenyegetés. Szerinte az olyan open-weight modellek, amelyek nem rendelkeznek veszélyes képességekkel, közjóként szolgálnak: futtatásukon kívül nem kerülnek további költségekbe, értéket hoznak vállalkozásoknak, fejlesztőknek és kutatóknak.
Ugyanakkor Amodei hangsúlyozta, hogy hosszú ideje vannak félelmei az AI kapcsán, de a vállalatok által használt open-weight modellek — még ha kínai forrásból is — nem tartoznak ezek közé. A valódi aggodalmat számára azok jelentik, hogy „szerződéses kormányok” olyan, az Egyesült Államoknál is erősebb modelleket fejleszthetnek, amelyek tartós katonai fölényt biztosítanak, vagy az AI-t a saját polgáraik elnyomására használják. Bár megjegyezte, hogy a Kínai Kommunista Párt (CCP) nem az egyetlen autoriter rezsim, amely aggasztja, egyben „a legképzettebb” ilyen hatalomnak nevezte.
Biológiai támadásoktól és a visszavonhatatlanságtól való félelem
Amodei kifejezte azt a félelmét is, hogy az AI nem csak kibertámogatási, hanem biológiai támadások elősegítésére is alkalmassá válhat. Ebben a kontextusban különösen veszélyesnek látja az open-weight modelleket, mert ezekre nehéz technikai korlátokat (guardrailokat) érvényesíteni vagy felhasználásukat követni. Hivatkozva a UK AI Security Institute jelentésére, megjegyezte, hogy egyszer nyilvánosságra hozott open-weights modelleket nem lehet egyszerűen visszavonni.
Ez az érvelés ellentmond az open-source szószólóinak állításának, miszerint a hatékony, nem egyetlen entitás által ellenőrzött open modellekhez való hozzáférés éppen a védekezést, a kutatást és az átláthatóságot segíti elő.
Javasolt lépések: chipkorlátozásoktól a distilláció elleni fellépésig
Amodei számos, szerinte hatékony eszközt sorolt fel Kína elleni védekezésként: a nagy teljesítményű chipek hozzáférésének korlátozását (amely régóta tartó amerikai politika), valamint a distilláció formális visszaszorítását. A distillációs technika során egy modell megfeleltetése vagy „bombázása” egy másik modelllel a működésének lemásolásához az egyik feltételezett módszer az IP eltulajdonítására.
Az Egyesült Államok korábban fenyegetett már szankciókkal is abban az esetben, ha egyértelmű lopást állapítanak meg amerikai modellek vonatkozásában.
Nemzetközi tesztelési szervezet támogatása
Érdekesség, hogy Amodei támogatja a növekvő kezdeményezéseket — köztük néhány amerikai vezetésűt — egy modellbiztonsági tesztelési szervezet létrehozására. Különösen fontosnak tartaná, ha ez a mechanizmus globálisan alkalmazható lenne, azaz ha a világ minden része, beleértve Kínát is, engedné, hogy a legképességesebb modelleket alávesse a vizsgálatoknak. Kifejtette: „Azt hiszem, ez az ötlet közel áll a konszenzushoz: megnyugtatott, hogy a Trump-kormányzat az elmúlt hónapokban ebbe az irányba mozdult, és az iparági javaslatok is hasonlóan kezelnék a legtöbb képességgel rendelkező modelleket függetlenül azok származási országától vagy attól, hogy nyíltak-e vagy zártak (miközben a kevésbé képességes modelleket, például startupok és akadémia termékeit teljesen kivennék a tesztelés alól).”
Hozzátette, hogy a tesztelésnek hatékonynak kell lennie, ezért globálisnak kell lennie, és ennek része kell, hogy legyen még a CCP beleegyezése is — szerinte korlátozott együttműködés az AI-val kapcsolatos biológiai fegyverek megelőzésében lehetséges, mivel az Kína érdekeivel is egyezik.
Összegzés
Dario Amodei állásfoglalása világossá tette, hogy Anthropic nem támogat általános tilalmat az open-weight modellekre, ugyanakkor kiemelte: az autoriter államok — különösen a Kínai Kommunista Párt — miatti nemzetbiztonsági félelmek miatt célzott politikákra van szükség. Javaslatai között szerepelnek chipexport-korlátozások, a distilláció elleni fellépés és egy globális modellbiztonsági tesztelési mechanizmus kialakítása, amelybe Kínának is be kell kapcsolódnia, ha valóban hatékony akar lenni.
