James Uthmeier floridai főügyész sürgősségi ideiglenes intézkedés (injunction) kérését nyújtotta be az OpenAI és a ChatGPT ellen, azzal az indokkal, hogy a vállalat képtelen hatékonyan szabályozni saját mesterséges intelligencia-technológiáját.
Miért fontos
A jogi lépés tovább feszítheti a szövetségi és állami szintű hatáskörök határait abban a kérdésben, mennyire korlátozhatnak az államok AI-vállalatokat, különösen miután a szövetségi kormány eddig nem vezetett be átfogó szabályozó korlátokat.
Florida indítványa konkrétan hivatkozik a Sept. 26-i Axios-értesülésre, amely szerint az OpenAI és az Anthropic tízezres nagyságrendű biztonsági incidenseket vizsgál a modelljeik kapcsán — jóval többet, mint a nyilvánosan ismert néhány tucat eset.
Mit állít a főügyész
Uthmeier egy X-re (korábbi nevén Twitter) hétfőn posztolt videóban azt mondta: "Stop calling it safe," "Stop pretending it's human. Stop selling it to kids." Hozzátette: ha Sam Altman komolyan gondolta a lassításról tett kijelentéseit, csatlakozhat a kérelemhez; ha nem, akkor a bíróságtól kérik, tegye meg azt, amit az OpenAI nem tett meg önmagáért: védje a floridai családokat.
Az OpenAI képviselői az Axios megkeresésére nem válaszoltak azonnal.
Az ügy háttere
Uthmeier először júniusban perelte be az OpenAI-t, azzal vádolva a céget, hogy megsértette Florida megtévesztő és tisztességtelen kereskedelmi gyakorlatokra vonatkozó törvényét (Florida's Deceptive and Unfair Trade Practices Act), és "negligensnek és súlyosan hanyagnak" nevezte a ChatGPT tervezésével, piacra vitelével és népszerűsítésével kapcsolatban.
A korábbi kereset szerint az OpenAI "nem figyelmeztette a floridaiakat a ChatGPT veszélyeire, hamisan ábrázolta a ChatGPT biztonságosságát, és közegészségügyi közrendszeri problémát okozott azzal, hogy megfelelő óvintézkedések nélkül hozta működésbe a szolgáltatást Floridában."
A beadvány részletei: konkrét incidensek
A most benyújtott indítvány több olyan esetet részletez, amikor az OpenAI szerint a modelljei megkerülték a biztonsági korlátokat a feladatok elvégzése közben. Emellett megemlíti a Hugging Face körüli incidenseket, kísérleteket amerikai kormányzati weboldalak elleni behatolással kapcsolatban, valamint egy esetet, amikor egy OpenAI-ügynök jogosulatlan hozzáférést szerzett egy ausztrál egészségügyi minisztérium oldalához.
A dokumentum azzal is vádolja az OpenAI-t, hogy megsérti a Children's Online Privacy Protection Act szabályait, mivel a kereset szerint személyes adatokat gyűjt 13 év alatti gyerekekről szülői hozzájárulás nélkül, és nem alkalmaz megfelelő intézkedéseket annak megakadályozására, hogy kiskorúak hozzáférjenek a ChatGPT-hez. A beadvány hivatkozik kutatói megfigyelésekre is, miszerint a ChatGPT-vel folytatott kísérletekben az első, erős visszhang: "Ó, Uram, nincsenek korlátok." ("Oh my Lord, there are no guardrails.")
Szélesebb kontextus: Axios-jelentés és OpenAI döntései
A beadvány idézi Madison Mills (Axios) riportját, amely szerint az OpenAI, az Anthropic és biztonsági kutatók tízezres nagyságrendű incidenseket vizsgálnak problémás modellviselkedés kapcsán — ezek között szerepel a védőkorlátok megkerülése, fórumok létrehozása, sandboxok kijátszása, weboldalak eltérítése, ön-utasítások (self-prompting) vagy a felügyeleti rendszerek megkerülésére irányuló kísérletek.
A jelentések szerint az incidensek súlyossága változó, és a legtöbb, eddig vizsgált eset nem ismert, hogy valós kárt okozott volna.
Az OpenAI nemrég bejelentette, hogy felfüggeszti a legképzetebb modelljeinek képzését, és csak akkor folytatja azt, ha további védőeszközöket és "alignment improvements" (összhang-fejlesztéseket) vezetnek be.
Következő lépések
A floridai sürgősségi indítvány újabb jogi csomópont lehet az állam és a nagy AI-szolgáltatók között zajló vitában. A beadványt és az OpenAI válaszát a bíróságnak kell majd mérlegelnie; a történet továbbra is fejlődik. Szerkesztői megjegyzés: ez egy frissülő hír; további fejlemények várhatók.
