Az utóbbi hetekben éleződött a vita az MI-biztonság jövőjéről: hogy a technológiai iparág hogyan közelítse meg a kockázatokat, és szükséges-e a fejlesztés lassítása. A vita új lökést kapott egy, Dario Amodei által megfogalmazott, közel 4 000 szavas esszével, amelyben az Anthropic vezetője a fejlesztések ütemének csökkentését javasolta annak érdekében, hogy a megfelelő biztonsági védőbástyák telepíthetők legyenek. Amodei javaslata nemcsak technikai intézkedéseket tartalmaz, hanem nemzetközi együttműködést is felvázol cégek és kormányok között a biztonságos üzembe helyezés érdekében.
Ki támogatta és ki vitatta a javaslatot?
Amodei tervét olyan prominens szereplők is részben támogatták, mint Sam Altman az OpenAI-tól és Elon Musk az xAI-tól. Ugyanakkor az esszé vitát is kiváltott az iparágban: sokan egyetértenek, hogy a képességek gyorsan nőnek, de nem minden vezető gondolja úgy, hogy globális kormányzati fellépés szükséges.
Meta vezérigazgatója, Mark Zuckerberg a héten az X-en megosztott gondolataiban azt hangsúlyozta, hogy „a bizalom és az összehangoltság gyorsan válik a legfontosabb képességekké, amelyek megkülönböztetik az ügynököket és modelleket”. Zuckerberg elmondta, hogy a Meta elhalasztotta Muse nevű MI-modelljének kiadását több hónappal a biztonsági és biztonságtechnikai szempontok miatt, és hozzátette, hogy ezt nem egy nyilvános felszólítás keretében tették, hanem saját megítélésük szerint, mert az volt a helyes.
Hasonlóan fogalmaztak más iparági vezetők is. Alexis Ohanian, a Reddit társalapítója a CNBC-nek azt mondta, hogy szerinte a technológiai ágazat „nagyjából süket” volt abban, ahogy az MI kockázatait a közönség felé kommunikálta, ugyanakkor ő is reményét fejezte ki, hogy a cégek maguktól képesek lesznek orvosolni a problémákat. Shane Legg, a Google DeepMind társalapítója szintén azt hangsúlyozta, hogy a képességek nagyon gyorsan fejlődnek, de nem engedhetik, hogy a képességek megelőzzék a biztonságot; részletek kidolgozására van szükség.
Önszabályozás vagy állami szabályozás?
A vita központi eleme, hogy a szabályozást a kormányoknak kell-e vezetniük, vagy az iparágnak van-e elég ösztönzése és képessége saját magát szabályozni. Több jelentés szerint, köztük a The Information cikke alapján, nagy AI-cégek — például az OpenAI és az Anthropic — dolgoznak egy iparági szabványokat kialakító szervezeten, amit egyes források magán „önszabályozó testületként” írtak le.
Ezzel szemben a jelenlegi amerikai kormányzat részéről nincs erős kezdeményezés a szövetségi szintű szabályozás létrehozására: a Trump-kormányzat többször az iparág oldalára állt, és ellenállt az állami szintű AI-törvényeknek. Az adminisztráció „AI cárja”, David Sacks szerint az MI-szabályozást a fejlesztő cégeknek kell meghatározniuk.
A Kongresszus egyes vezetői is távolságtartók: Mike Johnson, az amerikai képviselőház elnöke Amodei esszéjére reagálva azt mondta, hogy „nem fogunk mind meghalni tíz éven belül”, ezzel minimalizálva a katasztrofális forgatókönyvekkel kapcsolatos aggodalmakat.
Szabályozás vagy szabályozási foglyaás?
Egy felmerülő aggály, hogy a nagy szereplők által támogatott iparági szabványok valójában a „regulatory capture” — magyarul szabályozási elfoglalás — eszközei lehetnek. Ez a nézet azt állítja, hogy a domináns cégek olyan szabályokat vagy önkéntes normákat alakíthatnak ki, amelyek kedveznek nekik és hátrányos helyzetbe hozzák a kisebb, kevesebb erőforrással rendelkező cégeket. Az ilyen mechanizmusok nem feltétlenül igénylik jogi kötelező erővel bíró szabályokat; elég lehet, ha iparági normák gyakorolnak nyomást a kisebb szereplőkre.
Ezt a narratívát nem csak belföldi szereplők éltetik: kínai kormányzati és állami kommentárok is kritizálták Amodei felhívását. A kínai külügyminisztérium szóvivője, Guo Jiakun az amerikaiakat azzal vádolta, hogy „félelemkeltéssel” akadályozzák a globális MI-kormányzás fejlődését, míg egy állami lap vezércikke Amodei retorikáját a „hidegháborús forgatókönyv” nyelvéhez hasonlította.
Geopolitikai vetületek
Amodei esszéjében szerepel az is, hogy az amerikai cégek számára előnyös lehet a Kínával folytatott üzleti viszonyok átalakítása. Amodei úgy fogalmazott, hogy ha a javasolt intézkedéseket sikeresen végrehajtják, azok „elegendő mértékben lelassíthatnák Kína előrehaladását, hogy jelentősen szélesítsék Amerika előnyét a következő 3–5 évben — azon időablak alatt, amikor az MI geopolitikailag a legfontosabbá válik.”
Nem csak államok tűnnek gyanakvónak: Aidan Gomez, a kanadai Cohere vezérigazgatója nemrégiben „kartellnek” nevezte néhány nagy szereplő tevékenységét, és rámutatott, hogy a vita nem azon van, hogy kellenek-e őrzőkorlátok — ez nyilvánvaló — hanem azon, hogy kik írják a szabályokat és kinek az érdekeit védik.
Miért számít mindez?
Az MI-biztonság kérdése nem csupán technikai probléma: az határozza meg, hogy mely szereplők jutnak előnyhöz a következő évek versenyében, milyen nemzetközi normák alakulnak ki, és milyen szerepe lesz az állami beavatkozásnak. Az, hogy az iparág belső ösztönzői és önszabályozó mechanizmusai elegendőek-e a veszélyek kezelésére, vagy szükség van-e erőteljesebb állami és nemzetközi intézkedésekre, alapvetően politikai és geopolitikai kérdéssé vált.
A vita jelenleg megosztott: egyes vezetők a lassítás és nemzetközi együttműködés szükségességét hangsúlyozzák, mások az iparág organikus ösztönzéseiben bíznak. Az eredmény — legyen az önszabályozó szervezet, kormányzati szabályozás vagy nemzetközi megállapodás — nagyban befolyásolhatja az elkövetkező évek technológiai és geopolitikai egyensúlyát.
