A Hacktron AI kutatói az Anthropic Claude nyelvi modelljének segítségével hozzáfértek egy OpenAI-alkalmazott ChatGPT-fiókjához, és ezen keresztül az OpenAI GitHubon tárolt belső vállalati kódhoz – írja az amerikai Forbes. A csoport a sérülékenység feltárását követően jelentette az esetet az OpenAI-nak.
Hogyan történt a behatolás?
A források szerint a kutatók először a Claude Opus 4.8 verziójával próbálkoztak, sikertelenül; a hibát végül az Opus 5 verzióval sikerült kihasználniuk. A Wall Street Journal beszámolója szerint a csapat a modellnek egy, kiberbiztonsági szakemberek számára elérhető, speciális változatát használta.
Miért fontos ez?
A vizsgálat rávilágít arra, hogy a fejlettebb AI-modellek jelentősen lerövidíthetik a sérülékenységek feltárásához szükséges időt és emberi szakértelmet. A kutatók közlése szerint az OpenAI rendszerébe való bejutás az AI-ügynöknek néhány napot, az embereknek mindössze néhány órányi munkát jelentett, ami azt mutatja, hogy a modellek képesek automatizálni és felgyorsítani a sebezhetőségek feltárását.
OpenAI reakciója és következmények
Az OpenAI a beszámolók szerint köszönetet mondott a kutatóknak, kijavította a feltárt sérülékenységeket, és a cég hibavadász-programjának keretében 6 500 dollár kifizetéséről tájékoztatott. Az OpenAI szóvivői más kiadványoknak adott nyilatkozatokban hangsúlyozták, hogy az ilyen jellegű bejelentések és javítások a hibavadász-program alapvető célját szolgálják.
A projekt háttere: HEIF Heist
A feltárás a HEIF Heist nevű kutatás része volt, amely bizonyos képfájlok feldolgozási hibáit vizsgálta. A Hacktron AI csapata szerint a két hónapos projektben három kutató vett részt, és a vizsgálat során nemcsak az OpenAI rendszereiben, hanem többek között a Slack, a Zoom és a Meta rendszereiben is találtak sebezhetőségeket.
Összegzés
A történet azt mutatja, hogy a fejlett nyelvi modellek képesek új típusú és gyorsított támadási utakat feltárni, ugyanakkor a felelős bejelentés és a hibajavítási folyamatok—mint az OpenAI által alkalmazott hibavadász-program—szerepe kulcsfontosságú a kockázatok kordában tartásában. Az ügy konkrét technikai részleteit és a pontos kihasználási módot a kutatók és a sajtó beszámolói részletezik.
