Dario Amodei, az Anthropic vezérigazgatója július 27-én nyilvános posztban tisztázta a vállalat álláspontját az ún. open-weights (súlyfájlokkal nyíltan elérhető) modellekkel kapcsolatban. Amodei leszögezte: Anthropic soha nem szorgalmazott tiltást az open-weights modellekre vonatkozóan, és nem tartja ezt hatékony eszköznek a felmerülő nemzetbiztonsági kockázatok kezelésére.
Miért fontos ez a vita?
Az elmúlt napokban élénk vita alakult ki az open-weights modellek — különösen kínai forrású modellek — körül. Egyes jelentések szerint egyes amerikai tisztviselők fontolgatják, hogy megtiltsák amerikai cégek számára a kínai open-weights modellek használatát. Erre több technológiai cég közös levélben reagált a nyílt súlyok mellett kiállva; közben megjelentek olyan vádak is, hogy Anthropic maga tiltást szeretne, hogy védje üzleti érdekeit. Amodei ezeket a feltételezéseket határozottan visszautasította.
Anthropic alapállítása a nyílt súlyokról
Amodei emlékeztetett arra, hogy az open-weights modellek, amennyiben nincsenek bennük veszélyes képességek, közjót szolgálnak: futtatásukhoz csupán számítási erőforrás szükséges, és hasznot hozhatnak vállalatoknak, fejlesztőknek és kutatóknak. Ugyanakkor hangsúlyozta, hogy a tiltások védelmi jellegű, protekcionista következményekkel járnának, és nem oldanák meg a vezérlési aggodalmakat.
Két fő nemzetbiztonsági félelem
Amodei két „rémálom”-szerű forgatókönyvet említ, amelyeket korábbi írásában, The Adolescence of Technology című esszéjében is tárgyalt (az esszé megjelenése a poszt szerint mintegy hat hónappal korábban történt):
-
Elsődleges aggodalom: autoriter államok — nem kizárólag a Kínai Kommunista Párt, bár azt Amodei külön kiemeli mint a legképzettebb fenyegetést — fejlesztenek az Egyesült Államokénál erősebb AI-modelleket, és ezeket katonai fölény vagy súlyos belső elnyomás eszközévé teszik. Amodei idézi, hogy az Egyesült Államok kormányán belül is általános aggodalom mutatkozik: például Vance alelnök párizsi nyilatkozata szerint „az autoriter rezsimek ellopták és felhasználták a mesterséges intelligenciát katonai, hírszerzési és megfigyelési képességeik megerősítésére”, és az Intelligence Community 2026 Annual Threat Assessment is rámutatott, hogy más globális hatalmak gyors előrelépései kihívást jelenthetnek az amerikai gazdasági és nemzetbiztonsági előnyökre nézve. Amodei szerint az a modell, amelyet titokban fejlesztenek és csak katonai vagy belbiztonsági szerveknek adnak át, lehet a legveszélyesebb — függetlenül attól, hogy nyílt súlyokkal jelent-e meg.
-
Másodlagos aggodalom: a nagy kapacitású modellek rosszindulatú felhasználása kiber- vagy biotámadások kivitelezésére, illetve komoly alignment (összehangolási) problémák felbukkanása. Az open-weights modellek külön kockázatot jelenthetnek, mivel nehéz rájuk védőkorlátokat alkalmazni vagy használatukat monitorozni, és egyszer a nyílt súlyok kiadása után ezt visszavonni nem lehet. Ugyanakkor hangsúlyozza, hogy az amerikai cégek számára történő használati tilalom nem csökkenti ezeket a kockázatokat, mivel a rossz szereplők általában nem legitim amerikai vállalatok.
Anthropic által támogatott három intézkedés
Amodei és Anthropic három, folytonosan hangoztatott politikai lépést javasol a fenti kockázatok kezelésére:
-
Ne adjunk el fejlett chipeket vagy chipgyártó berendezéseket Kínának, és keményítsük meg a csempészet és közvetítők elleni fellépést. Amodei szerint Kína korlátozott hazai chipgyártó kapacitása miatt a skálázási törvények alapján nem tudná az Egyesült Államoknál erősebb modelleket létrehozni amerikai chipek nélkül; ezért ez a leghatékonyabb módja a fenyegetés №1 visszaszorításának, és közvetve a №2. kockázatot is enyhíti.
-
Üssük le az ipari méretű distillációs műveleteket. A distillation (tudásdestilláció) sokkal számítási hatékonyabb, mint a modell újbóli betanítása, és lehetővé teszi olyan modellek előállítását, amelyek meghaladják az adott számú chipek alapján várhatót. Ez részben kijátszhatja a chipkorlátozásokat, és arra tesz lehetőséget, hogy a kínai élvonal néhány hónapra megközelítse az amerikai élvonalat. Bár sok distillációs művelet nyílt súlyokat is publikál, Amodei szerint a probléma lényegét az jelenti, hogy ezeket az erőforrásokat egy autoriter állam is támogatja — a nyílt súlyok önmagukban nem a fő ok. Anthropic saját gyakorlatában is próbál fellépni az ipari distilláció ellen, például azon fiókok azonosításával és tiltásával, amelyek modelljeik ilyen célú kihasználására utalnak, de Amodei szerint ez egyedül a vállalati gyakorlatokkal nem oldható meg, ezért szükséges politikai szabályozás.
-
Kötelező biztonsági tesztelés minden elég képességgel bíró modellre, legyen az nyílt vagy zárt. Amodei szerint a leghatékonyabb mód a №2. kockázat kezelésére az, ha közvetlenül teszteljük a modelleket kiber-, biológiai és összehangolási kockázatokra a kiadás előtt. Úgy véli, ez a megközelítés közel áll a konszenzushoz: említette, hogy az Egyesült Államok korábbi adminisztrációja lépéseket tett ebbe az irányba, és iparági javaslatok is felmerültek, amelyek a legképességesebb modellekre vonatkoztatnák a tesztelést, függetlenül származási országtól vagy attól, hogy a modellek nyíltak-e. A tesztelés hatékonyságához globális részvételre van szükség, ami azt jelenti, hogy a kínai vezetés részvétele is szükséges lenne — Amodei szerint ez nem teljesen lehetetlen, mert bizonyos együttműködés a biológiai fegyverek megakadályozása körül mindkét fél érdeke lehet.
A nyílt levélről és a vita további aspektusairól
Amodei egyetért a nyílt levél több állításával: a nyílt súlyok növelik a hozzáférést az AI-gazdasághoz, fokozhatják a versenyt bizonyos felhasználási esetekben, és nagyobb ügyfélkontrollt biztosítanak. Ugyanakkor nem ért egyet azzal a feltételezéssel, hogy a nyílt súlyok automatikusan könnyebbé tennék a védőintézkedések kialakítását, vagy hogy a széles hozzáférés feltétlenül több védőt jelent, mint támadót. Példaként megemlíti a biológiai kockázatokkal kapcsolatos aszimmetriát: lehetséges, hogy az erősebb modellek gyorsan képesek kifejleszteni támadó jellegű biológiai ágenseket hozzáférhető anyagokból, míg a védekezés kidolgozása többévnyi operatív munkát igényel.
Összegzés
Anthropic és Amodei álláspontja szerint nem támogatják az open-weights modellek kategóriájára kiterjedő tiltást. A javasolt politika fókuszában három, célzott intézkedés áll: (1) a fejlett chipek és gyártóberendezések eladásának megakadályozása kínai irányba és a csempészet elleni hatékony fellépés, (2) az ipari distilláció visszaszorítása szabályozással, és (3) az összes kellően képességes modell kötelező biztonsági tesztelése, függetlenül attól, hogy nyíltak-e vagy sem. Amodei hangsúlyozza, hogy ezek a lépések praktikusabb és célzottabb választ jelentenek a felmerülő kockázatokra, mint egy általános tiltás.
Megjegyzések: Amodei posztja hivatkozik The Adolescence of Technology című esszéjére (kb. hat hónappal korábbi megjelenés), Vance alelnök párizsi figyelmeztetésére és az Intelligence Community 2026 Annual Threat Assessment-re; továbbá kitér az UK AI Security Institute és az Egyesült Államok Igazságügyi Minisztériumának különböző jelentéseire a nyílt súlyok biztonsági vonatkozásairól és a distillációs gyakorlatok dokumentálásáról.
