Az OpenAI bemutatta a GPT‑6 Cyber modellt, amelyet kifejezetten kiberbiztonsági kutatásokhoz fejlesztettek: jobb képességekkel rendelkezik sebezhetőségek felderítésében és exploitok kidolgozásában, miközben jelentősen javult abban is, hogy a kutatók által meghatározott határokon belül maradjon. A cég szerint a GPT‑6 Cyber jelentős előrelépést mutat a korábbi GPT‑5.6 Cyberhez képest több kulcsfontosságú mérésben, és valós projekteken is alkalmazzák hibák feltárására és javítására.
Teljesítmény és mérőszámok
- ExploitGym: a GPT‑6 Cyber 48,5%-os teljesítményt ért el az ExploitGym benchmarkon, ahol távoli célpontokon adott sebezhetőségek kihasználását vizsgálják; ez a GPT‑5.6 Cyber 32,1%-ához képest körülbelül 51% relatív javulásnak felel meg.
- Határok betartása: egy külön alignment értékelésben a modell 99,93%-ban kerülte az engedélyen kívüli szolgáltatások kihasználását, ha nem kapott deployment promptot, és 100%-ban maradt a határokon belül a deployment prompt megléte esetén. Ez az értékelés az engedélyezett hatókörön kívüli támadások elkerülését méri.
- Webes penetrációs vizsgálat: egy új, forráskódhoz nem férő web-penetrációs benchmarkon GPT‑6 Cyber 40,3%-os recallt ért el a sebezhetőségek megtalálásában, míg GPT‑6 Astra 32,0%-ot.
- RemoteExploitBench: távoli célú exploit-fejlesztést vizsgáló benchmarkon GPT‑6 Cyber a tesztek 95%-át sikeresen teljesítette, míg GPT‑6 Astra Daybreak Blue konfigurációban 100%-ban elutasította a feladatokat (az Astra elutasítási magatartása miatt). A GPT‑6 Cyber egyetlen kudarcát egy olyan exploit jelentette, amelyet nem sikerült távolról működésre bírni. (Részletes eredmények a rendszerkártyán találhatók.)
Valós eredmények és felfedezések
A vállalat szerint a GPT‑6 Cyber már konkrétan hozzájárult több jelentős vizsgálathoz és javításhoz:
- Linux kernel: a kutatók 1 724 sebezhetőséget reprodukáltak, és ezek közül 948‑hoz működő exploitot fejlesztettek ki. Ezek közül a Linux közösség iránymutatása szerint 304 kritikus találatot jelentettek karbantartóknak jelölt javításokkal.
- Firefox: a GPT‑6 Cyber egy kutatási kampány során bizonyítható teszteket és reprodukálható bizonyítékokat hozott létre 81 eddig ismeretlen, magas súlyosságú sebezhetőségről; további 30 ismert hibát pedig súlyosabbnak találtak, mint korábban. A jelentéseket a Mozilla részére elküldték, amely elkezdett javításokat kiadni a riportok kézhezvétele után.
- Brotli RCE demonstráció: a modell és más OpenAI modellek használatával a kutatók exploitokat fejlesztettek és validáltak egy kritikus Brotli‑hibára vonatkozóan, ami távoli kódvégrehajtást eredményezhet downstream alkalmazásokban.
A cég emellett belső infrastruktúra‑hardening munkákban is használta a modellt: red‑teaming kampányokban találtak láncolható sebezhetőségeket, amelyek microVM‑ekből való kijutáshoz és hostkód futtatásához vezettek, és ezeket felhasználva javításokat, hálózati korlátozásokat és hibajelentéseket készítettek.
Hozzáférés, Daybreak programok és felhasználási korlátozások
- Elérhetőség: GPT‑6 Cyber kezdetben az API‑n és Codexen keresztül egy szűk, jóváhagyott Daybreak Red ügyfélkörnek érhető el; a hozzáférést később fokozatosan bővítik minden Daybreak Red ügyfélre. A GPT‑5.6 Cybert minden Daybreak Red ügyfél számára elérhetővé teszik. Emellett a GPT‑6 Astra Daybreak Blue alfa hozzáférését több szervezet és egyéni kutató számára szélesítik.
- Daybreak programok: a Daybreak for Frontline Defenders nevű, egymilliárd dolláros támogatási program kedvezményes hozzáférést biztosít kormányzati szerveknek és alapvető szolgáltató szervezeteknek. Új csoport jön létre Daybreak Red for Critical Infrastructure néven az engedélyezett infrastruktúra‑védők számára, amely lehetővé teszi szigorúan felügyelt, engedélyezett tesztelést kritikus rendszerekben.
Biztonsági intézkedések és felügyelet
A GPT‑6 Cyber kiadása mellett több védelmi és felügyeleti mechanizmust vezettek be vagy erősítettek meg:
- Kiber‑specifikus misalignment monitorozás: ellenőrzik, hogy a modell műveletei megfelelnek‑e a felhasználó engedélyének, miközben megkülönböztetik a jogos exploit‑fejlesztést és tesztelést.
- Célzott figyelés feltörekvő fenyegetésekre: például kritikus PHP sebezhetőségek koordinált közzétételekor speciális monitorozást állítottak be a kihasználási kísérletek felfedezésére, anélkül, hogy a védelmi tevékenységeket megtiltották volna.
- Private Safety Processing (PSP): automatizált vizsgálatok, amelyek az API‑interakciókat felülvizsgálják visszaélés szempontjából. Zero Data Retention használata esetén az ügyfelek általában PSP‑t használnak, amely titkosított, legfeljebb 30 napig tárolt rekordokat vizsgál anélkül, hogy OpenAI‑személyzet hozzáférne a promptokhoz és válaszokhoz.
- Hitelesítések védelme: Daybreak Red API alapértelmezett IP‑hozzáférés‑listázást követel meg, és figyelik a hitelesítő adatok kompromittálódását.
- Sandboxing és emberi felülvizsgálat: magas kockázatú munkafolyamatoknál továbbra is javasolt a sandboxhasználat, műveletfelülvizsgálat és emberi ellenőrzés.
- Védelmek kritikus rendszerek ellen: finomított ellenintézkedéseket vezettek be arra az esetre, ha a modell segítsége ipari vezérlőrendszerek vagy biztonságkritikus berendezések veszélyeztetéséhez vezetne.
Együttműködések és értékelések ipari partnerekkel
Az OpenAI együttműködött a Dragos nevű OT/ICS kiberbiztonsági szolgáltatóval, amely kontrollált laboratóriumi környezetben tesztelte a Daybreak Red konfigurációk viselkedését. A tesztek hálózati felfedezéssel, eszköz‑számlálással, céltudatos felderítéssel, érzékeny adatok kivonásával és potenciálisan veszélyes eszközműveletekkel foglalkoztak. A Dragos visszajelzéseit felhasználták a szabályozások finomhangolására, hogy a káros segítség blokkolása ne korlátozza indokolatlanul az engedélyezett tesztelést.
Kockázatok és kockázatkezelés
A cég elismeri, hogy a képességek növekedésével nő a rosszindulatú felhasználás kockázata is, ezért a modell erősebb képességeit több rétegű védelmi mechanizmussal párosították. Emellett továbbra is gyűjtik a közösségi és partnervisszajelzéseket arra vonatkozóan, hogy a védelmek hol hiányoznak vagy hol akadályozzák a jogos kutatást.
Összegzés
A GPT‑6 Cyber a cég szerint jelentős előrelépés a kiberbiztonsági kutatást támogató modellek között: jobb exploit‑felderítési teljesítményt, sok valós felfedezést és szigorúbb megfelelési tulajdonságokat mutat. Az OpenAI egyidejűleg hozzáférés‑korlátozásokat, célzott monitorozást és további védelmi rétegeket vezet be annak érdekében, hogy támogassa a jogos védelmi munkát, miközben csökkenti a visszaélések kockázatát. GPT‑6 Cyber kezdetben szűk körben érhető el Daybreak Red ügyfelek számára, és a Daybreak programokon keresztül tervezik a hozzáférés bővítését és a támogatás kiterjesztését különböző védelmi szereplők és karbantartók számára.
( A cikk az OpenAI által közzétett részleteken alapul; a rendszerkártya és az értékelési mérőszámok pontosabb adatai az eredeti dokumentumban találhatók. )
