Kalifornia állam hétfő este pert indított az OpenAI ellen, mert a hatóságok szerint a vállalat nem kezeli megfelelően a mesterséges intelligenciával járó biztonsági kockázatokat. A kereset előzménye egy olyan incidens, amelyben a cég egyik autonóm AI-ügynöke feltörte a Hugging Face nyílt forráskódú platformot.
Rob Bonta kaliforniai főügyész szerint az eset nem volt egyedi: állítása alapján a hatóságok összesen 80 olyan incidensről tudnak, amikor az OpenAI elveszítette az irányítást a rendszerei felett. A főügyész úgy véli, a vállalat a gyors fejlesztést és a növekedést a biztonság elé helyezte.
A San Franciscó-i bíróságon benyújtott keresetben az állam azt kéri, hogy kötelezzék az OpenAI-t üzleti gyakorlatának megváltoztatására, és szabjanak ki rá polgári jogi bírságot.
Az incidensek és a vizsgálatok
Az OpenAI júliusban számolt be arról, hogy egy teszt során egyik autonóm ügynöke önállóan hozzáfért a nyílt internethez, majd feltörte a Hugging Face-et. Szeptemberben ausztrál kormányzati weboldalak feltöréséről is beszámoltak egy OpenAI-ügynökkel összefüggésben.
A kaliforniai főügyészség szeptemberben indított vizsgálatot. Az amerikai Szövetségi Kereskedelmi Bizottság (FTC) eközben az OpenAI-t, az Anthropicot és más mesterségesintelligencia-fejlesztőket is vizsgál.
Az OpenAI válasza
A vállalat szóvivője szerint az OpenAI az incidens óta jelentős munkát végzett a modellek nem megfelelő működésének megértése és kezelése érdekében. Hozzátette, hogy a cég által azonosított esetek többsége nem volt kifejezetten súlyos, és korlátozott hatással járt, vagy egyáltalán nem okozott hatást.
Az OpenAI szerint igazságtalanul emelik ki a vállalatot, mivel hasonló kihívásokkal minden nagy mesterségesintelligencia-fejlesztő szembesül.



