OpenAI nemzeti biztonsági politikáért felelős vezetője, Sasha Baker azt mondta, hogy egy amerikai–kínai AI válságkommunikációs csatorna jó "kiindulópont" lehet a szuperhatalmak közötti együttműködésben a mesterséges intelligencia ügyében. Baker a Semafor Next 3 Billion rendezvényén kedden beszélt optimizmusáról a Washington és Peking közti, AI-biztonsági értesítési rendszerrel kapcsolatos tárgyalásokról, különös tekintettel a nemzeti biztonsági kockázatokra.
"Ez egy nagyszerű kiindulópont" – mondta Baker. "Úgy tekintek rá, mint kezdetre, nem a végpontra. De ez lényeges és valós." Hangsúlyozta, hogy az Egyesült Államoknak és Kínának közös alapot kell találnia, mivel mindkét ország otthont ad a világ vezető AI laborjainak. Ugyanakkor felhívta a figyelmet arra is, hogy "a világ minden országa érintett abban, ami az fejlett AI-vel történik, és azt szeretnénk, ha ezek a hangok is képviselve lennének a párbeszédben."
Baker elmondta, hogy OpenAI vezére, Sam Altman szerdán az Egyesült Nemzetek Biztonsági Tanácsa előtt beszél majd arról, hogy szükség van az AI-standardok nemzetközivé tételére. Baker szerint Altman ismerteti majd "annak a pillanatnak a komolyságát, amelyben vagyunk, és azt a felismerést, hogy ezek a modellek valóban olyan képességeket mutatnak, amelyek stratégiailag jelentősek."
A Biden- és Trump-adminisztrációk említésére vonatkozóan a beszélgetésből kiderül, hogy a politikai vezetők eltérően viszonyulnak a nemzetközi felügyelethez: a cikk szerint az Egyesült Államok elnöke, Donald Trump korábban elutasította az AI nemzetközi felügyeletének ötletét, és "globalista tervnek" nevezte azt.
Az AI biztonsági kockázatai és az Astra
Baker megjegyzései olyan aggodalmak közt hangzottak el, hogy a fejlett AI-modellek erőteljes hekkertámogató eszközökké válhatnak, amelyek kevés emberi irányítással képesek felfedezni és kihasználni ismeretlen biztonsági réseket. Ennek kapcsán OpenAI korábban ebben a hónapban bemutatta Astrát, az első olyan modelljét, amelyet "cybercritical" (kiberkritikus) besorolással jelöltek.
Baker hangsúlyozta, hogy jelenleg nincs terv arra, hogy a modellt az Egyesült Államok kormányának offenzív kibertevékenységére – például előzetes támadások végrehajtására ellenségek ellen – adják át vagy úgy használják. "Elismerjük, hogy rossz kezekben offenzív célra lehetne használni" – mondta. "Jelenleg nem készítünk modelleket ilyen célokra."
Baker szavai arra utalnak, hogy bár a kétoldalú értesítési mechanizmusok kezdeti lépést jelenthetnek, a kérdés nemzetközi kontextusba helyezésére és a körültekintő szabályozásra továbbra is szükség van annak érdekében, hogy a fejlett AI fejlesztése és alkalmazása ne növelje a stratégiai kockázatokat.
