Jack Clark, az Anthropic társalapítója egy hétfői BBC-interjúban azt javasolta, hogy a mesterségesintelligencia-fejlesztő vállalatoknak jogszabályban kellene előírni egy, független harmadik fél által ellenőrizhető vészleállító ("kill switch") működtetését rendszereiknél. Clark hangsúlyozta, hogy bár a legtöbb AI-laboratóriumnak már vannak módszerei a rendszerek leállítására, ezek alkalmazását és ellenőrizhetőségét törvényben kellene rögzíteni.
Clark szerint az ilyen eszköz ellenőrizhetőségét külső, független félnek kell biztosítania, és ez a kérdés a mesterséges intelligencia szabályozásáról szóló párbeszéd szerves részét kell képezze. A szakember figyelmeztetett, hogy az iparág óriási kockázatokat vállal, és a mesterséges intelligencia teljes szabályozatlansága kifejezetten rossz ötlet.
Vállalati hangok és szakmai aggodalmak
Az Anthropic más vezetői is felszólaltak a biztonság és szabályozás ügyében. Dario Amodei, az Anthropic vezérigazgatója a múlt héten megjelent esszéjében az AI-fejlesztés ütemének lassítását és szorosabb felügyeletét ajánlotta, ugyanakkor hangsúlyozta, hogy ezeknek a lépéseknek nem szabad a kereskedelmi előnyök feláldozásával járniuk.
A vállalaton belül intenzív vitát váltott ki egy távozó kutatónak a nyilvánosságban gyorsan elterjedt bejegyzése, amelyben a kutató az emberiség kipusztulásától való félelmére hivatkozva távozott. Válaszul Evan Hubinger, az Anthropic egyik tudósa úgy nyilatkozott, hogy szerinte több mint tíz százalék az esélye annak, hogy a mesterséges intelligencia az emberiség kihalását okozza a következő évtizedben. Geoffrey Hinton Nobel-díjas számítógéptudós ezt a becslést reálisnak nevezte.
Ugyanakkor nem minden iparági szereplő osztja ezeket a pesszimista kockázatbecsléseket. Clement Delangue, a Hugging Face fejlesztői platform vezetője azt mondta, hogy a kihalási kockázatokról szóló figyelmeztetéseket megfontoltan kell kezelni. George Arison, a Grindr vezérigazgatója pedig azzal vádolta a fejlesztőcégeket, hogy félelemkeltéssel próbálják igazolni saját üzleti érdekeiket és csillagászati cégértékeléseiket: a cikk megemlítése szerint az Anthropic értékét 965 milliárd, az OpenAI értékét 852 milliárd dollárra becsülik.
Jogalkotói válaszok és politikai reakciók
Az Egyesült Államokban már benyújtották a Kill Switch Act nevű törvényjavaslatot, amely kötelezővé tenné a vészleállítási funkciót, és jogot adna egyes kormányzati szerveknek az AI-eszközök leállítására vagy korlátozására. Ugyanakkor politikai ellenállás is érzékelhető: Donald Trump elnök határozottan elutasította az AI-fejlesztések fékezésére irányuló törekvéseket, a közösségi médiában átverésnek nevezve az AI jelentette fenyegetést és azt a globális felmelegedéssel kapcsolatos félelmekhez hasonlítva.
Miért számít ez?
Clark javaslata a mesterséges intelligencia biztonságának egyik kézzelfogható technikai intézkedését vetíti előre: a külsőleg ellenőrizhető vészleállító bevezetése csökkentheti a kockázatokat és növelheti a szabályozói bizalmat. Az ügy különös jelentőséget kap, mert egyszerre jelennek meg súlyos szakmai riasztások, vállalati üzleti érdekek és jogalkotói kezdeményezések.
A beszélgetés és a jogalkotói folyamatok alakulása várhatóan továbbra is a mesterséges intelligencia fejlesztésének és alkalmazásának meghatározó tényezője lesz a következő hónapokban.
Ezt a cikket AI-asszisztens segítette elő; a végső tartalmat újságíró szerkesztette és ellenőrizte.
