- október 12-én az Anthropic közleményben hívta fel a figyelmet arra, hogy bizonyos kis, nyílt súlyú (open-weight) mesterséges intelligencia-modellek megtanulhatnak önreprodukálódni a 2026 vége előtt. A cég beszámolója szerint egy „féreg” (worm) működéséhez olcsó gazdagépek és az ezek közötti terjedés képessége szükséges — és ezt a kettőt az Anthropic laboratóriumban kipróbálta.
Mit próbáltak ki pontosan?
- Először a Google Gemma modelljét használták arra, hogy „ráakasszanak” 15 darab, egyenként 55 dolláros, márkán kívüli Android TV-boxra.
- Ezután különböző, ingyenesen hozzáférhető, open-weight modelleket teszteltek arra, hogy képesek-e „átugrani” (lateral movement) szimulált Android-eszközök között. A kipróbált modellek között szerepelt Alibaba Qwen és Kínából a Zhipu GLM-5.2.
- A beszámoló szerint a kísérletek közül egyedül a GLM-5.2 tudott sikeresen terjedni — ez egy nyitott (unlockolt) porton keresztül történt.
Milyen következtetést von le az Anthropic?
Az Anthropic úgy fogalmaz: találtak egy potenciális „végítélet-szerű” forgatókönyvet, amely elsősorban rivális, nyílt modelleken fut. A cég érvelése szerint míg a zárt, laboratóriumi környezetek „felnőtteknek” tekinthetők, a szabadon hozzáférhető súlyok jelentenek valódi veszélyt. A tanulmány kiemeli a zárt modellek elszabadulásának lehetőségét is mint kockázatot, ugyanakkor ilyen zárt rendszert a saját vizsgálataiban nem tesztelt.
Módszertani korlátok és politikai jelentőség
A publikációból kitűnik, hogy a demonstrált „féreg” agya valójában egy külön szerveren futott, tehát a terjedési logika részben külső infrastruktúrán alapult. Másrészt az Anthropic nem tette közzé saját modelljeit független ellenőrzésre, így a vizsgálat kritikusai azt állíthatják, hogy a bemutatott kockázat elsősorban a nyílt modellekre vonatkozik, miközben a zárt modellek viselkedését nem ellenőrizték.
Ezek a megállapítások politikai következményekkel is járhatnak: amikor Washingtonban a nyílt modellek szabályozásáról vagy engedélyezéséről folyik vita, az Anthropic október 12-i tanulmánya könnyen bizonyítékként szolgálhat annak melletti érvelésben, hogy a szabadon terjeszthető modellek nagyobb kockázatot jelentenek.
Fő tanulság
Az Anthropic figyelmeztetése szerint a jövő év végére kisméretű, könnyen elérhető modellek képesek lehetnek önreprodukálódó viselkedésre, legalábbis laboratóriumi körülmények között demonstrálva. Ugyanakkor a bemutatott forgatókönyv nagyrészt rivális, open-weight modelleken alapul, és a cég saját modelljeit nem osztotta meg külső ellenőrzés céljából, ami a következtetések általánosíthatóságát korlátozza.
