Anthropic vezérigazgatója, Dario Amodei hétfőn közölte, hogy soha nem szorgalmazott nyílt súlyú (open-weight) mesterséges intelligencia-modellek általános betiltását. Egy új blogbejegyzésében azt írta, hogy az olyan modellek, amelyek nem rendelkeznek veszélyes képességekkel, „közjót” jelentenek, és elutasította azokat a vádakat, melyek szerint laborja zárt modelljei versenytársaktól való védelmében lobbizna.
Miért fontos ez
Anthropic az egyik legfontosabb kivétel a közelmúlt iparági mozgalmából, amely a nyílt súlyú modellek védelmére buzdít: a kezdeményezéshez többek közt az Nvidia, a Microsoft, a Meta, a Google, az OpenAI és további tucatnyi cég csatlakozott, és levelet írtak Washingtonnak, hogy ne korlátozza ezt a technológiát. A mozgalmat részben a kínai Kimi K3 nyílt súlyú modell váratlan megjelenése indította el; a Kimi K3 sokakat meglepett azzal, hogy amerikai csúcsteljesítményhez közelítő eredményeket ért el jóval alacsonyabb költségek mellett.
A Trump-kormányzat mérlegelte a nyílt forráskódú és nyílt súlyú modellekkel szembeni lépéseket is, beleértve kiszabott szankciókat kínai laborokra, akiket azzal vádoltak, hogy az amerikai AI-kutatást „distilláció” révén kémelték ki.
Amodei álláspontja és indoklása
Amodei leszögezte, hogy bár nem támogatja a nyílt súlyú modellek tiltását, aggályai vannak a nemzetbiztonság szempontjából legkomolyabb kockázatokról. Arra hívta fel a figyelmet, hogy egy kizárólag kínai nyílt modellek betiltására irányuló lépés kevéssé lenne hatásos, mivel a valódi rosszindulatú szereplők nem valószínű, hogy legitim amerikai vállalkozások lennének. Elismerte azt is, hogy egy tilalom versenytől megvédené az amerikai laborokat, köztük az Anthropicot, de hangsúlyozta: „ez soha nem volt a célom.”
Amodei megpróbál egy éles határt húzni: elutasítja a teljes tilalmat, de szigorúbb szabályozást szeretne a legerősebb rendszerekre vonatkozóan. Elismeri, hogy a nyílt modellek növelhetik a hozzáférést, fokozhatják a versenyt és javíthatják az ügyfélkontrollt, ugyanakkor nem fogadja el azt az állítást, hogy a nyílt súlyok feltétlenül biztonságosabbá tennék az AI-t, vagy előnyben részesítenék a védelmi oldalt a támadókkal szemben.
Az alternatív szabályozási javaslatok
Amodei szerint egy általános tiltás „nem oldaná meg a legsúlyosabb nemzetbiztonsági aggályaimat”; ehelyett három célzott politika bevezetését javasolta:
- Az autoriter kormányok, köztük a Kínai Kommunista Párt számára történő fejlett chipek és chipgyártó berendezések szigorúbb ellenőrzése.
- Az „ipari méretű distilláció” elleni fellépés, vagyis az olyan gyakorlat korlátozása, amikor kevésbé fejlett modelleket fejlettebb rendszerek kimenetére képeznek.
- Kötelező biztonsági tesztelés előírása minden olyan modellre, amely elég képessé válik, legyen az nyílt vagy zárt.
Az iparági kontextus és kritika
Anthropicot bírálták amiatt, hogy nem csatlakozott Jensen Huang, az Nvidia vezérigazgatójának nyílt súlyú modelleket védő leveléhez. A Google és az OpenAI — amelyek Anthropic zárt modellversenytársai — végül a hétvégén csatlakoztak a kezdeményezéshez, miután először tartózkodtak; Anthropic azonban továbbra sem írta alá a levelet. Hiánya további vádakat váltott ki, többek között a Fehér Ház AI-tanácsadója, David Sacks részéről, aki azt állította, hogy a vállalat a biztonsági aggályokat saját üzleti modellje védelmére használja.
Következtetés
Dario Amodei világossá tette, hogy nem támogat egy általános tiltást a nyílt súlyú AI-modellekre, de sürgeti a célzott szabályozást a kulcsfontosságú szűk keresztmetszeteknél — chipek, distilláció és biztonsági tesztelés — azoknak a képességeknek a korlátozására, amelyek lehetővé teszik a rendszerek veszélyes fejlődését.
