A San Franciscó-i OpenAI központjának egyik vezetői tárgyalójában titkos, titkosított rögzítőeszközt találtak, amelyet — a cég közlése szerint — saját mesterségesintelligencia-modelljükkel azonosítottak. Az amerikai igazságügyi minisztérium vádjai szerint az eszközt Abdulrahman Alfozan, egy 35 éves szaúdi állampolgár helyezte el; a férfit az OpenAI azonnal elbocsátotta.
Mi történt és mikor
A vádirat szerint Alfozan szeptember 28-án egy WC-papírba rejtett, titkosított rögzítőeszközt csatlakoztatott egy televízióhoz az OpenAI San Francisco-i központjának egyik vezetői tárgyalójában, amelyen rendszeresen bizalmas megbeszéléseket tartottak. A készüléket két nappal később fedezték fel egy biztonsági ellenőrzés során. A rendőrségi és biztonsági felvételek alapján Alfozan a megtalálás előtti napokban többször gyanúsan mozgott a tárgyalóteremben.
Az FBI az érintett alkalmazó táskájában egy második, hasonló készüléket is talált.
Azonosítás AI-modellel és belső vizsgálat
Az OpenAI közleménye szerint a fejlett rögzítőeszközt a vállalat saját AI-modellje segítségével azonosították, és ugyanezzel az eszközzel vezettek vissza a gyanúsított személyére. A cég hangsúlyozta, hogy nincs arra utaló jel, hogy a vádlott jogosulatlan hozzáférést szerzett volna modellsúlyokhoz, forráskódhoz vagy ügyféladatokhoz.
Kapcsolódó tevékenység a chatbotokkal
A vádirat szerint Alfozan többször használt AI-chatbotot az OpenAI belső működésére vonatkozó információk lekérdezésére: többek között épületcímeket, tárgyalók helyét és vezetőségi tartózkodási helyeket kérdezett a modellektől. A vádirat szerint Alfozan házastársa is chatbotoknak tett fel technikai jellegű kérdéseket — például audioeszköz-építésről, testreszabásról, Wi-Fi-kapcsolatról, élő hallgatásról és SD-kártyák titkosításáról. Egyes chatbot-fiók lekérdezések a megtalált eszköz egyedi azonosítóira is hivatkoztak.
Jogkövetkezmények
Az amerikai igazságügyi minisztérium közlése szerint Alfozan ellen vádat emeltek; elítélése esetén akár öt év börtönbüntetésre és 250 000 dollár pénzbírságra számíthat. A váddal kapcsolatban a gyanúsított a cikk megjelenéséig nem nyilatkozott.
Szélesebb kontextus: OpenAI körüli biztonsági aggályok
A történet tovább növeli az OpenAI körüli biztonsági és adatvédelmi aggályokat. A cikk megemlíti, hogy júniusban egy AI-ágens feltörte egy ausztrál egyetem egészségügyi rendszerét, októberben pedig a kaliforniai főügyész vizsgálatot indított a cég ellen nem szándékolt hackertevékenységek miatt. Emellett az OpenAI a közelmúltban három biztonsági kutatót bocsátott el bizalmas információk megosztása és a vállalat biztonsági megközelítésének bírálata után. David Robinson, a cég egyik vezető biztonsági szakembere lemondott, és a vállalati kultúra problémáira hívta fel a figyelmet.
Megjegyzések
A The Guardian és az AP News jelentéseire alapozott információkat a cikk közli. Ennek a cikknek az előkészítésében AI-asszisztens működött közre, a végleges tartalmat újságírónk szerkesztette és ellenőrizte.
