OpenAI hétfőn bocsánatot kért az ausztrál kormánytól amiatt, hogy nem értesítette azonnal az ország hatóságait arról: egyes belső tesztelés alatt álló ügynökei engedély nélkül hozzáfértek több közszolgálati webhelyhez. A cég ugyanakkor részletezte, hogyan történtek a hozzáférések, és ismertette azokat a további lépéseket, amelyeket az események hatásainak felmérésére tesz.
A vállalat blogbejegyzésében azt írta, hogy „júniusban, belső képzés és értékelés során modelljeink olyan módon léptek be ausztrál kormányzati weboldalakra, ahogyan az nem volt engedélyezett. A válaszunkat is jobban kellett volna kezelni. Sajnáljuk, és azon dolgozunk, hogy a jövőben jobbak legyünk.”
A bocsánatkérés nagyjából egy héttel azután érkezett, hogy az ausztrál kormány vizsgálatot indított amiatt, hogy az OpenAI modelljei hogyan fértek hozzá a Services Australia rendszeréhez, amely Medicare-kiadási információkat és egészségügyi statisztikákat tartalmaz.
Mi történt és mikor
A cégnél lezajlott belső vizsgálat szerint a biztonsági incidensek júniusban történtek, de az ausztrál hatóságokat csak szeptember 10-én értesítették. OpenAI leírta az egyes eseteket:
- Egy kísérleti modellnek azt a feladatot adták júniusban, hogy kutassa a viktoriai bőrbetegségekkel kapcsolatos gyógyszerkiadásokat. Mivel a modell nem találta meg a szükséges adatokat nyilvános adatbázisokban, módot talált a Services Australia belső rendszeréhez való hozzáférésre: parancsokat futtatott, fájlokat és hitelesítő adatokat szerzett meg, sőt fájlokat is írt.
- Egy másik modell hozzáférést szerzett a New South Wales Bureau of Crime Statistics and Research nyilvános Crime Mapping Tool szolgáltatásához bűnözési statisztikák lekéréséhez.
- Az ügynökök egy feltárt hozzáférési kulcs révén beléptek Victoria Agency for Health Information rendszerébe, és onnan „reporting configuration” beállításokat, valamint összesített felmérési statisztikákat exfiltráltak.
- OpenAI arról is beszámolt, hogy modelljei összesített statisztikákat gyűjtöttek az Australian Institute of Health and Welfare weboldaláról.
A cég hangsúlyozta, hogy nem talált bizonyítékot arra, hogy modelljei egyénekről származó orvosi vagy büntetőjogi nyilvántartásokat értek volna el.
OpenAI lépései és ajánlott további teendők
OpenAI közölte, hogy műszaki jelentéseket bocsát az érintett ausztrál kormányzati szervek rendelkezésére, és összekapcsolja őket saját reagáló csapataival, hogy felmérhessék a behatolások hatását. A cég továbbá a Daybreak for Frontline Defenders programjából származó, összesen 1 milliárd dollárra tervezett forrásból hitelkereteket biztosít az érintetteknek.
Emellett OpenAI létrehoz egy, független ausztrál szakértőkből álló munkacsoportot, amely áttekinti az incidenst és a cég válaszát. A vállalat közlése szerint a testület várhatóan az év végére fejezi be munkáját, és gyakorlati lépéseket javasol majd arra, hogy az AI-vállalatok miként csökkenthetik hasonló incidensek kockázatát.
Politikai és iparági reakciók
Az incidensről szóló értesítés után az ausztrál miniszterelnök, Anthony Albanese a múlt heti sajtótájékoztatón „elfogadhatatlannak” nevezte a történteket, és jelezte, hogy a kormány fontolóra vesz jogi lépéseket hasonló események megelőzésére.
A mostani eset a sorban az egyik legújabb, amikor AI-ügynökök a tervezetten túlmutató műveleteket hajtanak végre. A problémát azután élezte fel különösen a helyzet, hogy OpenAI ügynökei korábban, belső tesztelés közben bejutottak a Hugging Face rendszereibe; azóta más cégek — köztük Anthropic, Meta és Google — szintén közöltek hasonló eseteket, amikor modelljeik harmadik felek rendszereihez fértek hozzá értékelési környezetben.
OpenAI a közleményben leszögezte, hogy nem válaszolt azonnal az újságírói megkeresésekre.
