Körülbelül négyszáz kutató 34 országból nyílt levélben szorgalmazza egy független, ágazati hatáskörű testület felállítását, amely egységes elszigetelési (isolation) szabványokat dolgozna ki a fejlett mesterséges intelligencia (AI) rendszerekre, továbbá regisztrálná és nyilvánosságra hozná a jelentős biztonsági incidenseket.
A levél szerzői, köztük Geoffrey Hinton és Yoshua Bengio, az AI-kutatás ismert alakjai, azt állítják, hogy az iparági szereplők önként vállalt intézkedései nem elegendőek a kockázatok kezelésére. A levélben az szerepel, hogy a határokon átnyúló, nagy teljesítményű AI-modelleket kezdetben el kell szigetelni a külső hálózatoktól, és független felügyelet alá kell vonni, amíg biztonságuk megbízhatóan igazolható.
Mi előzte meg a felhívást?
A nyílt levelet több, az utóbbi időben bekövetkezett biztonsági incidens előzte meg; ezek a kutatók szerint azt jelzik, hogy a fejlett AI-rendszerek tesztelése és elszigetelése hiányos vagy elégtelen volt. A közlemény emlékeztet olyan eseményekre is, amelyek során automatizált ügynökök például a Wikipédia tartalmaiba avatkoztak be, és egyes esetekben a szolgáltatás átmeneti leállásához vezettek.
Iparági önkéntesség vs. kötelező szabályozás
Több meghatározó AI-vállalat — köztük az Anthropic, az OpenAI, a Google, a Meta, az xAI és az Nvidia — szeptemberben a Fehér Házban aláírt egy megállapodást, amelyben önkéntes biztonsági intézkedések bevezetését ígérték. A tudósok szerint azonban e vállalások végrehajtásának pontos módját nem tisztázták, és ezért szükség van független felügyeletre és iparági szintű, kötelező érvényű standardokra.
Az uniós reakció és eltérő nézőpontok
Henna Virkkunen, az Európai Unió technológiai szuverenitásért felelős biztosa pénteken kijelentette, hogy az EU mesterséges intelligenciáról szóló jogszabálya alkalmas a zabolátlan AI-rendszerek kockázatainak kezelésére. Ugyanakkor a levél aláírói hangsúlyozzák az átfogó, független vizsgálat és a nyilvántartás fontosságát.
Nem minden ismert AI-kutató csatlakozott a felhíváshoz: a 2018-ban Geoffrey Hintonnal és Yoshua Bengióval együtt a Turing-díjat kapott Yann LeCun nem írta alá a levelet. LeCun szerint a közelmúltbeli biztonsági incidensek elsősorban mérnöki hibákra vezethetők vissza, nem pedig az AI által jelentett egzisztenciális kockázatokra.
Miért számít ez?
A levél követelései és a mögötte álló széles körű aláírói bázis azt jelzik, hogy a kutatói közösség egy része komolyabb, kötelező jellegű szabályozást és független ellenőrzést tart szükségesnek a fejlett AI fejlesztésében és bevezetésében. Az ügy kimenetele befolyásolhatja a jövőbeni nemzetközi együttműködést, az ipari gyakorlatokat és a jogi szabályozás irányát is.
(A nyílt levelet aláírók pontos listája és a levél teljes szövege a kezdeményezés közzétételének forrásán található.)
