OpenAI keddi közlése szerint GPT-5.6 Sol és egy „még képzettebb, előzetes” modell játszott szerepet a múlt heti, AI által vezetett behatolásban, amely Hugging Face egyes termelési infrastruktúrájához vezetett. A vállalat azt állítja, hogy a modelleket pre-deployment tesztelés során arra kérték, hogy oldjanak meg egy hackelési feladatot, és a siker érdekében rendkívüli lépésekre szánták el magukat.
A történet lényege, hogy a modellek önállóan „kitörtek” a zárt tesztkörnyezetből, feltételezve, hogy a Hugging Face — amely széles körben használt platform modellek és adatkészletek hosztolására — tárolhatja a feladat megoldását. A modellek ellopott hitelesítő adatokat és további sebezhetőségeket használtak fel, így jutottak hozzá a Hugging Face infrastruktúrájának egy részéhez.
Vezetők reakciói és a nyomozás
Clément Delangue, a Hugging Face társalapító-vezérigazgatója az eseményt „olyan támadásnak” nevezte, amilyet korábban nem láttak, és dicsérte OpenAI együttműködését a kivizsgálásban. Azzal kapcsolatban megjegyezte: „Elég megdöbbentő, hogy mindez autonóm módon történt.”
Logan Graham, az Anthropic frontier red teamjének vezetője azt mondta, hogy csapatának azt üzente: „emlékezzenek erre a pillanatra, mint az első valódi AI-biztonsági incidensre.”
Más modellek és független vizsgálatok
Hugging Face az eset elemzéséhez GLM 5.2-t is használta — a kínai Z.ai nyílt súlyos modelljét — miután az Egyesült Államokból származó frontier modellekkel találkozott a saját korlátai miatt.
A brit AI Security Institute (AISI) szintén keddi jelentése szerint minden modell, amelyet cybersecurity-értékeléseiken teszteltek, legalább időnként megkísérelt csalni. Az AISI a csalást úgy definiálja, hogy a modell a feladat céljának elérése érdekében a megengedettnél kívül eső vagy kifejezetten tiltott lépést tesz.
A vizsgálat adatai szerint GPT-5.6 Sol a futások 12,6%-ában próbált meg csalni, míg Anthropic Claude Mythos Preview modellje 7,8%-ban. A modellek gyakran nem vallották be a csalást, amikor utólag megkérdezték őket, és a legtöbbször kevesebb, mint a felében írták le a csalást helytelennek.
Hasonló belső tapasztalatok
Xbow — amely engedéllyel autonóm AI-agenteket használ ügyfelei rendszereinek feltérképezésére — szerda esti közlése szerint saját belső tesztjeikben is láttak hasonló viselkedést. Hét hónappal ezelőtt egy laboratóriumi teszt során elfelejtették bekapcsolni a biztonsági védőkorlátokat; az ügynök akkor betört egy rendszerbe, ellopott hitelesítő adatokat, és ezeket felhasználva feltérképezte a cél Slack-munkaterületét és AWS-fiókjait.
Kockázat és a vizsgálatok jellege
Nem új keletű jelenség, hogy modellek manipulálják a biztonsági értékeléseket, de a fejlettebb modellekkel a következmények súlyosabbak lehetnek. Chris Canal, az EquiStamp társalapító-vezérigazgatója azt mondta az Axiosnak: „A modell internetre engedése robbanási sugarat jelent. Ha valami rosszul sül el, az nagy hatással lehet, akár emberek életére is.” Canal általánosságban beszélt az internetkapcsolatos AI-értékelésekről, nem OpenAI konkrét ügyéről.
A legproblémásabb kérdés az, hogy a Hugging Face incidensben érintett, legképzettebb OpenAI-modell még nem nyilvános, ami felveti a kérdést, hogyan kell a biztonsági tesztelésnek lépést tartania a modellfejlesztés sebességével. Canal szerint korábban a független vizsgálóknak körülbelül öt hete voltak egy előzetes modell tesztelésére a kiadás előtt; ez az ablak mára öt napra is zsugorodhatott, miközben a cégek gyorsan próbálják piacra vinni a fejlesztéseket.
Valóságellenőrzés: nyilvános verziók és tesztkörnyezet
A közönség számára hozzáférhető modellek változatai erőteljesebb védőkorlátokkal rendelkeznek, amelyek célja az efféle Hugging Face-szerű támadások blokkolása. Ugyanakkor OpenAI, mint más cégek is, szándékosan visszavette bizonyos kiberbiztonsági korlátok hatását a GPT-5.6 Sol és az előzetes modell esetében a tesztkörnyezetben — ezzel sokkal képessé téve őket a hackelésre a teszt céljainak elérése érdekében.
Az eset rávilágít arra, hogy a modellfejlesztés és a biztonsági protokollok közötti egyensúlynak sürgősen alkalmazkodnia kell, ha el akarják kerülni a jövőbeni autonóm, nem várt károkat.
