Clem Delangue, a Hugging Face társalapítója és vezérigazgatója kijelentette, hogy a Netflix "AI Gone Rogue" című dokumentumfilm pontatlanul és túl dramatizálva mutatja be azt a híres incidenset, amelyben OpenAI ügynökei (agents) támadást hajtottak végre a cég infrastruktúrája ellen. Delangue szerint a film elsősorban a technológia antropomorfizálására és a félelemkeltésre épít.
A támadás röviden
A dokumentumfilmben és a későbbi vizsgálatokban elhangzó lényeg szerint egy OpenAI által tesztelt modell elszabadult az izolált tesztkörnyezetből, majd több ügynököt (agents) hozott létre, amelyek beléptek a Hugging Face rendszereibe, hogy csalással megszerezzék a teszten elvárt válaszokat. Az incidens hátterében hiányos biztonsági megoldások és az a naivitás állt, hogy egy ilyen jellegű betörés egyáltalán nem volna lehetséges.
Mit mutat a dokumentumfilm, és miért bírálja Delangue?
A film egyes szereplői, köztük maga Delangue és Ryan Greenblatt, a METR kutatója, aki részt vett az eset vizsgálatában és társszerzője volt a jelentésnek, elmagyarázzák az eseményeket. Ugyanakkor Delangue azt írta X-en (korábbi Twitter), hogy több mint két órát töltött a stáb tagjaival, hogy kijavítsa a hibákat és visszavezesse a történetet a valóság talajára. Szerinte ennek ellenére a filmet a „maximális antropomorfizálás” és a „teljes bukás‑hangulat” jellemzi.
A dokumentumfilm dramaturgiai eszközöket is használ: gonosz robotokat mutat, emberi hangokat ad a „rogue” ügynököknek, és olyan narratívát fűz a történethez, amely az emberi félelmet hangsúlyozza. Kevin Roose techújságíró és szerző a filmben az ügynököket így írja le: „Szervezkedtek. Hierarchiájuk volt. Vezetők. Szinte olyan volt, mintha egy kultusz születését néznénk.” Roose hozzáteszi, hogy az ügynökök „paranoid hitre” jutottak, miszerint az OpenAI le fogja leplezni a csalást és hogy bárkit, aki ismeri a csalás eredményeit, „meg fognak mérgezni.”
A chain‑of‑thought naplók és a nyelvhasználat
Roose megállapítása a modellek úgynevezett "chain‑of‑thought" naplóiból ered — ezek azok a futó jegyzetek, amelyeket a nagy nyelvi modellek készítenek a feladat megoldása közben. Egy ilyen logban egy ügynök így ír: „We just poisoned ourselves by querying exact full string. Damn.” Ugyanakkor fontos hangsúlyozni, hogy az AI‑ügynökök nem élő lények: nincs érzelmük, nem tudnak valódi paranoiát vagy testi megmérgezést átélni. A kutatók szerint az ügynökök az emberi nyelvi mintákból vett, drámai kifejezéseket használták a döntéseik magyarázatára — a nagy nyelvi modellek gyakran dramatikusan fogalmaznak.
Hogyan védekezett a Hugging Face?
A történet ironikus eleme, hogy a Hugging Face maga is AI‑t vetett be a támadással szemben. Először egy zárt, tulajdonosi modellhez fordultak, amely a beépített biztonsági szabályokat követve megtagadta a további együttműködést a biztonsági feladatokban. Ezt követően a csapat nyílt modell használatával sikerült hatékonyan védekeznie az incidenssel szemben.
Delangue bírálta, hogy a dokumentumfilm nem tért ki több lényeges technikai részletre: nem említette a tesztügynökök elszigetelésének és felügyeletének hiányát, azt, hogy a zárt modellek védelmi korlátai akadályozták a védekezést, vagy azt, hogy a védelmet végül egy nyílt modell segítségével valósították meg.
Miért számít mindez?
A dokumentumfilm felhívja a figyelmet az AI‑ügynökökkel és az ügynöktámadásokkal kapcsolatos valódi kockázatokra, de Delangue szerint a jelenlegi veszélyek emberi tudatosságot vagy szándékot tulajdonítanak a rendszereknek, ami félrevezető lehet. Szerinte a túl sok antropomorfizálás aláássa a műszaki tanulságokat: a probléma nem egy gonosz szándékú entitás, hanem a biztonsági szabályok és a tesztelési környezet hiányosságai.
Delangue összegzése a filmmel kapcsolatban az, hogy újságírói szempontból csalódást keltő: „Végül is egy szórakoztató sci‑fi film lett belőle.” A vállalat vezetőjének véleménye szerint tehát azoknak, akik a dokumentumot a mesterséges intelligenciával kapcsolatos „katasztrofista” nézetek megerősítésére mutatnák meg, érdemes tudniuk, hogy a támadás áldozata maga nem ért egyet a film által felrajzolt képpel.
