Jacob Coxon, az Anthropic korábbi kutatója, aki a múlt hónapban távozott a cégtől azzal a figyelmeztetéssel, hogy az egyre erősebb mesterséges intelligencia rendszerek ellenőrizhetetlenné válhatnak, a New York-i városi tanács hétfői meghallgatásán tesz tanúvallomást. A meghallgatásra Julie Menin, a tanács elnökének felkérésére kerül sor; a Bloomberg számolt be az eseményről.
Kik vesznek részt
A meghallgatáson az iparág vezető szereplőinek képviselői ülnek majd egy asztalhoz az egyesített kritikusokkal. A meghívottak között szerepelnek:
- Jacob Coxon (volt Anthropic-kutató)
- Alex Turner (a Google DeepMind egykori kutatója)
- Daniel Kokotajlo (az AI Futures Project igazgatója és korábbi OpenAI-alkalmazott)
Ezen túl az Anthropic, az OpenAI, a Google és a Meta szakpolitikai és biztonsági vezetői is részt vesznek a meghallgatáson; a négy nagy MI-cég képviselői vállalták a megjelenést. Az Anthropic, az OpenAI és a Google beleegyezett a részvételbe miután Menin irodája idézéssel fenyegetőzött; a Meta korábban már jelezte, hogy megjelenik. A SpaceX mesterségesintelligencia-részlege hivatalos idézést kapott, miután nem válaszolt a tanács megkereséseire.
Miről szól a vita
A meghallgatás célja egy olyan helyi jogszabálycsomag megvitatása, amely a mesterséges intelligenciával kapcsolatos garanciák megteremtésére törekszik. A tanács elé több konkrét javaslat került:
- A visszaélés-bejelentők számára a cégektől behajtott bírságok egy részének juttatását előirányzó tervezet.
- Olyan szabályjavaslat, amely lehetővé tenné, hogy az MI-rendszerek által károsult személyek bizonyos esetekben beperelhessék a fejlesztőket.
- Egy kezdeményezés, amely előírná egyes rendszerek független, harmadik fél általi validációját a New York-i bevezetésük előtt.
Ezek a helyi szabályozási törekvések részei annak a nagyobb ambíciónak, hogy New York vezetése aktívabb szerepet vállaljon az MI-ipar felügyeletében, miközben a szabályozási hatáskörök egy része továbbra is szövetségi és állami szinten marad.
Miért jelentős ez
A meghallgatás különös jelentőséggel bír, mert egyszerre hozza össze az iparág kritikusaivá vált egykori kutatókat és a nagy technológiai cégek képviselőit, miközben konkrét szabályozási eszközöket vizsgálnak. Jacob Coxon korábbi nyilatkozatai súlyos kritikát fogalmaztak meg az MI-fejlesztés versenyéről és a cégek gyakorlatáról; a tanács megjelenése tükrözi a helyi döntéshozók növekvő aggodalmát az MI kockázataival kapcsolatban.
A meghallgatás eredményei befolyásolhatják, hogy milyen helyi előírások lépnek életbe New Yorkban, különösen az MI-alkalmazások bevezetésére és ellenőrzésére vonatkozóan.
A cikk összeállításában a Bloomberg beszámolója alapján készült információk szerepelnek. A címlapkép illusztráció. Ennek a cikknek az előkészítésében AI-asszisztens működött közre, a végleges tartalmat újságírónk szerkesztette és ellenőrizte.
