Demis Hassabis, a Google DeepMind vezetője és Nobel-díjas kutató kedden az X közösségi platformon közzétett írásában azt javasolta, hogy az Egyesült Államok kezdeményezzen egy olyan szabványügyi szervezet létrehozását, amely felügyelné az új mesterségesintelligencia-modelleket és értékelné a nemzetbiztonsági kockázatokat, köztük a kiberbiztonsági és biológiai fenyegetéseket. Hassabis hangsúlyozta, hogy „sürgős intézkedésekre” van szükség az úgynevezett mesterséges általános intelligencia (Artificial General Intelligence – AGI) kockázatainak kezelésére.
Az AGI olyan fejlettségi szintet jelöl, amikor az MI eléri vagy meghaladja az emberi intelligencia képességeit. Hassabis kiemelte: „Már most is látható, hogy a csúcskategóriás modellek milyen kihívásokat jelentenek a kiberbiztonság számára, és ahogy képességeik tovább fejlődnek, hamarosan más fenyegetések is megjelenhetnek, beleértve a nukleáris és biológiai kockázatokat.”
Javasolt intézményi modell: FINRA-szerű felügyelet
Hassabis egy olyan állami–magán partnerségen alapuló megoldást támogatott, amelyet egy szövetségi kormányzati felügyelethez kapcsolódó, FINRA mintájára működő MI-felügyeleti szervezetként képzelt el. A javaslat szerint az új testület igazgatótanácsában független vezető műszaki szakértők és a nyílt forráskódú közösség képviselői is részt vennének. (Megjegyzendő, hogy a FINRA az Egyesült Államokban a brókercégeket és az értékpapírpiacokat felügyelő önszabályozó szervezet.)
Hassabis szerint a szervezet működéséhez jelentős pénzügyi forrásokra lenne szükség világszínvonalú szakemberek alkalmazásához és a nagyszabású modelltesztelésekhez szükséges számítási kapacitás biztosításához; a finanszírozás várhatóan elsősorban az iparági szereplőktől származhatna.
Önkéntes kezdet, kötelező felülvizsgálat lehetősége
A javaslat értelmében a vezető AI-fejlesztő vállalatok kezdetben önkéntesen bocsátanák a szervezet rendelkezésére új modelljeiket legfeljebb 30 nappal a nyilvános megjelenés előtt. Ha a felülvizsgálati rendszer hatékonynak bizonyul, később a vizsgálat kötelező feltétellé válhatna az Egyesült Államok piacán történő bevezetés előtt.
A felülvizsgálat során különös figyelmet fordítanának az úgynevezett agentikus AI-rendszerekre: ellenőriznék, hogy a modellek megpróbálják-e megkerülni a biztonsági korlátokat, mutatnak-e megtévesztő viselkedésre utaló jeleket, illetve alkalmaznak-e bevált gyakorlatokat, például az AI által készített képek digitális vízjelezését vagy ember számára értelmezhető kimeneti tokenek előállítását, amelyek segítenek megérteni a modellek következtetési folyamatait.
Kontextus: ipari támogatás és nemzetközi verseny
Hassabis javaslata egy hónappal az után érkezett, hogy a CNBC forrásai szerint ő és az Anthropic vezérigazgatója, Dario Amodei a G7-csúcstalálkozón egy amerikai vezetésű koalíció létrehozását szorgalmazta az AI-szabályok és szabványok kidolgozására. A hónap elején Sam Altman, az OpenAI vezérigazgatója is hasonló testület felállítását javasolta a Financial Times hasábjain.
Mindazonáltal a csúcskategóriás AI-modellek szabályozása továbbra is viták tárgya a kormányzatok és a vállalatok között. Az elmúlt hetekben az Anthropic hosszas egyeztetéseket folytatott amerikai tisztviselőkkel, miután a Trump-kormányzat ideiglenes exportkorlátozásokat vezetett be egyik fejlett modelljére. Az OpenAI is találkozott hasonló kormányzati kérésekkel, amikor az amerikai kormány kezdetben a vállalatot arra kérte, hogy korlátozza egy új modell bevezetését.
Hassabis úgy véli, hogy az Egyesült Államok gazdasági és technológiai ereje megadja a lehetőséget egy ilyen átfogó szabályozási keretrendszer vezetésére.
Geopolitikai vetület: verseny Kínával
A szabályozási felhívások egy olyan időszakban érkeznek, amikor egyre élesebb a verseny az Egyesült Államok és Kína között az MI-fejlesztés és piaci bevezetés terén. Kínai vállalatok, köztük a DeepSeek és a Z.ai, új modelljeit egyes szakértők már komoly versenytársnak tartják az amerikai vezető rendszerekkel, például az Anthropic és az OpenAI csúcskategóriás modelljeivel. Ezek a megoldások növekvő népszerűségre tesznek szert az amerikai vállalatok körében is, részben azért, mert a mesterséges intelligencia használatának költségei emelkednek.
Ennek következtében amerikai törvényhozók jelenleg azt vizsgálják, hogyan lehetne korlátozni a kínai AI-modellek terjedését az amerikai vállalatok körében; az amerikai Külügyminisztérium a CNBC-nek nyilatkozva „komoly aggodalomra” utaló folyamatként írta le ezt a jelenséget.
