OpenAI bejelentette, hogy együttműködésre lép a biztonsági kutatócsapat Hacktronnal, hogy közösen keressenek sebezhetőségeket OpenAI rendszereiben. A két fél mérnökei és kutatói közösen határozzák meg a vizsgálat szempontjából legfontosabb területeket, különös tekintettel arra, hogyan lépnek kölcsönhatásba rendszereik harmadik felek szolgáltatásaival.
Mit tartalmaz a partnerség
A megállapodás részeként Hacktron kibővített hozzáférést kap OpenAI „Daybreak Red” jelzésű frontier modelljeihez. A vállalat hangsúlyozza, hogy amint a frontier AI-t a kibervédelem felgyorsítására használják, ugyanolyan sürgősséggel keresik és javítják a saját rendszereikben található gyenge pontokat.
Kapcsolódó intézkedések
A partnerség kiegészíti OpenAI korábbi lépéseit: a héten bejelentették, hogy a Cathedral kutatói is részt vesznek a következő biztonsági sprintben, továbbá megemelték a bug bounty díjakat, hogy független kutatók nagyobb ösztönzést kapjanak olyan sebezhetőségek felderítésére, amelyeket a belső tesztek esetleg nem fednek fel.
Miért fontos Hacktron
OpenAI elmondása szerint Hacktront a Security Bug Bounty programon keresztül ismerték meg, és lenyűgözte őket az a hatás, amelyet a csapat által felfedezett és jelzett sebezhetőségek gyakoroltak. Hacktron AI-ügynököket fejleszt kódellenőrzésre, penetrációs tesztekre és red teamingre; kutatásaik feltárták többek között, hogyan hatnak egymásra alkalmazások, felhőinfrastruktúra és identitáskezelő rendszerek.
OpenAI szerint az AI-ügynökök új módon kapcsolják össze a szolgáltatásokat, ezért az ilyen szakértelmet egyre nagyobb értékűnek tartják: a Hacktronnal való közös munka lehetővé teszi ezeknek a kapcsolódásoknak mélyebb tesztelését és az ebből származó tapasztalatok védelmi intézkedésekbe való beépítését.
Köszönet és jelentés
OpenAI megköszönte Hacktron és más független kutatók munkáját, akik időt fordítanak gyenge pontok felkutatására és jelentésére a felhasználók biztonsága érdekében. A vállalat arra ösztönzi az érdekelteket, hogy a hatókör megismeréséhez és hibajelentéshez látogassanak el az OpenAI Security Bug Bounty program oldalára.
