Max Justicz, a Charge Robotics műszaki igazgatója és társalapítója, az OpenAI egyik nagy nyelvi modelljét használta egy súlyos sebezhetőség feltárására, amely — kihasználva — lehetővé tehette volna távoli hozzájárulással a szerverek feletti átvitelt Ubuntu rendszereken. Justicz hobbi szinten foglalkozik kiberbiztonsággal, korábban már talált hibát ugyanabban a kódbázisban.
Justicz elmondása szerint a hibát a GPT 5.6 Sol modellen találta meg, amelyet júliusban adott ki az OpenAI, és amelyhez a kutató a Daybreak Blue nevű programon keresztül férhetett hozzá. A Daybreak Blue azon program része, amely a védekező szektor számára tesz elérhetővé „frontier” modelleket.
„Egyszerűen ugyanarra a kódra irányítottam a ChatGPT‑t, és azt mondtam: ‘Korábban találtam egy hibát, amit néhány éve javítottak, találj ennél ugyanolyan vagy rosszabb hibákat,’ és két órán belül megjött ez” — mondta Justicz. Hozzátette, hogy a hiba rendkívül bonyolult és nehezen felismerhető emberi szemnek, mégis működött.
Jelentés, javítás, és a kihasználás hiánya
Justicz jelentette a problémát a Debian Projectnek, amely karbantartja az érintett szoftvert. A Debian javítást adott ki a sebezhetőségre; ismert bizonyíték a hiba kihasználására nincs.
Mindazonáltal a kutató által bemutatott könnyű hozzáférés arra utal, hogy a felszínnél jóval több potenciális kihasználható hiba lehet, amelyeket akár kevés tapasztalattal rendelkező szereplők is megtalálhatnak AI‑támogatással. Justicz egy közösségi bejegyzésében arra figyelmeztetett, hogy ha több idő, illetve kevésbé korlátozott modellek állnak rendelkezésre, „extrém őrült hibák” kerülhetnek felszínre és kihasználásra a közeljövőben.
OpenAI reagálása: ChatGPT Cyber és Daybreak Red
Az OpenAI ma bejelentette, hogy új, kifejezetten kiberbiztonsági feladatokra szánt modellt, a ChatGPT Cybert bocsát rendelkezésre a Daybreak Red legmagasabb szintű felhasználói számára. A Daybreak Red azon kutatók és szakemberek számára ad hozzáférést, akik offenzív sebezhetőség‑kereséssel és exploit‑fejlesztéssel foglalkoznak.
Az OpenAI közleménye szerint ugyanazt a modellt használták arra is, hogy a Linux kernelben és más nyílt forráskódú projekteknél sebezhetőségeket szkenneljenek és javításokat készítsenek: a cég állítása szerint 948 potenciális problémát találtak a Linux kernelben, illetve 81 „újszerű” sebezhetőséget fedeztek fel a Mozilla Firefoxnál.
„Célunk a Daybreak drámai kiterjesztése, hogy a fejlett biztonsági kutatás minden méretű szervezethez, független kutatókhoz és nyílt forráskódú karbantartókhoz eljusson” — írta a labor.
Költségek, erőforrások és viták
Az OpenAI hangsúlyozza, hogy szűk időablak áll rendelkezésre a digitális infrastruktúrát védők számára, mielőtt a modellek még hatékonyabbá és könnyebben hozzáférhetővé válnának a támadók számára. A védelem oldalán dolgozók viszont úgy érzik, hogy a frontier laborok által felszabadított új feladatok gyorsan meghaladják a rendelkezésre álló erőforrásaikat. Justicz elmondta, hogy személy szerint körülbelül 5 000 dollárt költött előfizetésekre és tokenekre több exploit megtalálásához.
Ezen túlmenően az OpenAI 1 milliárd dolláros kezdeményezést jelentett be a Daybreak program keretében, amely a kritikus infrastruktúrán dolgozó kiberbiztonsági szakembereket támogatja, például az elektromos hálózatok és vízellátás védelmében dolgozókat.
A Daybreak programnak vannak kritikái is. Justicz szerint a labor a közelmúltban „lerontotta” (nerf‑elte) a Daybreak Blue hozzáférést, hogy kevésbé legyen alkalmas sebezhetőségek felfedezésére. Ez részben jó lépés lehet a rosszindulatú szereplők hozzáférésének korlátozására — Justicz azt is megjegyezte, hogy a programba való bekerüléshez csak feltöltötte a vezetői engedélye fényképét — ugyanakkor a védelmi szakemberek hátrányba kerülhetnek, ha nem használhatják a legfejlettebb technológiát, miközben rossz szereplők nyílt súlyú modelleket futtatnak kevés vagy semmilyen garanciával.
Az OpenAI szerint jelenleg „több ezernyi” kiberbiztonsági szakember vesz részt a Daybreakben, miközben potenciálisan jóval nagyobb számú lehetséges támadó létezik.
Elköteleződés és a jelenlegi erőforrások kérdése
Eric Wallace, az OpenAI technikai stábjának kutatója, azt mondta, hogy „jelenleg jelentős mennyiségű frontier számítási kapacitást fordítunk nyílt forráskódú kódbázisok sebezhetőségeinek felderítésére és javítására, teljesen pro bono.”
Ugyanakkor az egyes akciók költségei rámutatnak az erőforrás‑korlátokra: a Linux kódvizsgálat állítólag 1,2 millió dollárba került, ami jóval kevesebb az OpenAI korábbi, körülbelül 6 millió dolláros token‑költségű számítási beruházásához képest egy híres folyadékdinamikai probléma megoldására.
Ha valóban szűk időablak áll rendelkezésre a világszintű digitális infrastruktúra javítására és megerősítésére, a mostani jelek szerint szükség lehet nagyobb sürgősségre és több erőforrásra a sebezhetőségek felderítéséhez és foltozásához.
