Az OpenAI következő belső biztonsági sprintjét tervezi elindítani, amelyben saját csapatai új kutatókkal és biztonsági partnerekkel együttműködve használják a modelleket rendszereik tesztelésére és megerősítésére. A vállalat bejelentette, hogy partnerséget kötött a Cathedral kutatóival, akik az OpenAI modelleket az OpenAI csapataival együtt alkalmazva vizsgálják a védelmi rések feltárását és kihasználhatóságát.
Mit tartalmaz a sprint
- A Cathedral kutatói az OpenAI modelleket használják az OpenAI belső csapataival közösen, hogy különböző megközelítésekkel és szakértelemmel vizsgálják a gyengeségeket.
- A cél a védekezés megerősítése: új sebezhetőségek felkutatása és a meglévők javítása, mielőtt rosszindulatú szereplők kihasználhatnák azokat.
Javítások a Security Bug Bounty programban
Az OpenAI a Security Bug Bounty programját is fejleszti: a kritikus találatokért járó jutalmakat több mint négyszeresére emeli. A vállalat arra ösztönzi a kutatókat, hogy megkérdőjelezzék a feltételezéseket és segítsenek mind a rendszerek, mind az azokat védő módszerek megerősítésében.
Előzmények és módszertan
Az új sprint a cég folyamatos törekvésének része, hogy mesterséges intelligenciát használjon a rendszerek gyengeségeinek folyamatos felderítésére és javítására. Az OpenAI korábbi sprintje konkrét eredményeket mutatott: a vállalat a termékfejlesztő mérnökök 25%-át fordította a rendszerek gyengeségeinek felkutatására és javítására. A mérnökök Codex segítségével vizsgálták a bejelentett problémákat, izolált környezetekben reprodukálták a sebezhetőségeket és javításokat készítettek felülvizsgálatra.
Miért fontos ez most?
A hagyományos kibervédelmi eszközök önmagukban már nem mindig elegendőek — az iparági események azt mutatják, milyen gyorsan jelenhetnek meg új fenyegetések. Az OpenAI szerint ezért elengedhetetlen a folyamatos védelmi ciklusok kialakítása, amelyekkel a szervezetek idejében megtalálhatják és orvosolhatják a gyengeségeket.
Elérhető eszközök és támogatások
Az OpenAI bejelentése szerint a legképzettebb modelljeit saját védelmének megerősítésére használja, és ezeket a képességeket elérhetővé teszi a Daybreak ügyfelei számára is. Emellett a cég elkötelezett 1 milliárd dollár értékű, hat hónapra szóló szubvencionált hozzáférés biztosítása mellett a frontvonalon dolgozó védekező csapatok számára, amelyek alapvető szolgáltatásokat és digitális infrastruktúrát óvnak.
Az OpenAI megosztja a korábbi sprint architektúráját és tapasztalatait, valamint egy terveket tartalmazó útvonaltervet, amely a kiberdefenseket erősítő szervezetek és kormányzati szereplők munkáját kívánja támogatni.
További lépések
A vállalat közleménye szerint folytatja modelljeinek fejlesztését, alkalmazza azokat saját rendszereinek megerősítésére, és bővíti a hozzáférést a megbízható védekezők számára. Az OpenAI hangsúlyozza, hogy a védők számára nyitva tartott időablak megőrzése iparági szintű cselekvést igényel, és ezt a munkát most kell elkezdeni.
