Demis Hassabis, a Google DeepMind társalapítója és vezérigazgatója, személyes manifesztumában azt javasolja, hogy az Egyesült Államok hozzon létre egy új, globális hatáskörű AI-felügyeleti szervezetet, amely képes lesz a világ legfejlettebb modelleinek ellenőrzésére és — ha a veszélyek növekednek — iparágszintű lassítást koordinálni. A javaslat részleteit Hassabis a "A Framework for Frontier AI and the Dawning of a New Age" című írásában ismertette kedden reggel.
Miért fontos ez?
Hassabis az Axios-szal adott exkluzív interjúban azt mondta, hogy eljött az idő egy rendszerszerűbb szabályozási megközelítésre: az új testületet az ipar finanszírozná, világszínvonalú műszaki szakértők dolgoznák fel és az Egyesült Államok kormánya számára felelne. Hassabis szerint a jelenlegi AI-vezérelt kiberkockázatok "figyelmeztető lövések", és akár 18 hónapon belül ezek a képességek — továbbá súlyosabb biológiai és nukleáris kockázatok — olyan nyílt forráskódú modellekben is felbukkanhatnak, amelyek kívül esnek bármely kormány ellenőrzésén.
Hangsúlyozta ugyanakkor, hogy a komolyabb veszélyek várhatóan a nagy laborok jövőbeli, erősebb zárt (proprietary) modelljeiből származnak, nem csupán a nyílt forráskódú megoldásokból. Manifestumában így fogalmaz: "Amit most közösen teszünk, az határozza meg a civilizáció következő szakaszát."
A háttér és a politika
Hassabis hónapokig csendben építette a támogatást az elképzeléshez: tájékoztatta a Trump-kormányzatot, más laborvezetőket és európai tisztviselőket, mielőtt nyilvánosságra lépett. A kormányzattal folytatott tárgyalásait pozitívnak nevezte, noha a Fehér Ház korábban laza hozzáállást alkalmazott az AI-szabályozásban a Mythos-ügy előtti időszakban.
A javaslat szempontjából fontos katalizátor volt Anthropic legutóbbi Mythos és Fable modelleinek befagyasztása: a labor modelljeit egy exportkontroll-határozat éjszaka lefagyasztotta, és 2½ hétig tárgyaltak a szabadszabadításról olyan előírások és protokollok nélkül, amelyekhez lehetett volna igazodni. Ennek fényében Hassabis azt mondta, hogy Washingtonnak valami tartósabb mechanizmusra van szüksége az alkalmi intézkedések helyett.
OpenAI a hasonló megtorlást elkerülendő ideiglenesen korlátozta a GPT-5.6 hozzáférését kormány által jóváhagyott partnerekre, majd a közelmúltban a Kereskedelmi Minisztériummal folytatott tesztelés és egyeztetés után nyilvánosságra hozta azt.
A javasolt felügyeleti modell
Hassabis a tervezetet a FINRA (Financial Industry Regulatory Authority) mintájára képzeli el: egy ipar által finanszírozott, de felügyelet alatt álló szervezetként, amely a Wall Streetet is szabályozó rendszerhez hasonlóan működne. A kulcselemek:
- Kezdetben a frontier laborok önkéntesen megosztanák modelljeiket a testülettel akár 30 nappal a kiadás előtt biztonsági tesztelés céljából. A vizsgálat olyan veszélyekre fókuszálna, mint a kiber-, biológiai és "deception" (megtévesztés) képességek.
- Amint a tesztelési rendszer hatékonynak és robusztusnak bizonyul, a formalizálás gyorsan következhet: a frontier modelleknek igazolniuk kellene átmenésüket a teszteken, mielőtt az amerikai piacon bevethetők lennének.
- A testület felügyeleti tanácsát többségében független tagok alkotnák, köztük Turing-díjasok és más hiteles szakértők, valamint iparági, kormányzati és nyílt forráskódú képviselők.
A szabályok a "frontier" kategóriába sorolt modellekre vonatkoznának, függetlenül a származási országtól és attól, hogy nyílt vagy zárt forrásúak-e, és a kvalifikációs mérőszámokat folyamatosan frissítenék a képességek fejlődésével.
Időzítés és elfogadás
Hassabis agresszív idővonalat vázolt fel: "hónapok" alatt, ideálisan még az éven belül működőképes testülettel. A laborvezetők — köztük a Gemini és Claude mögötti vezetők — nagyvonalakban egyetértenek abban, hogy szükség van ilyen irányra; főként azon vitatkoznak, hogy ki birtokolja a végső hatalmat.
Anthropic vezérigazgatója, Dario Amodei is a kötelező erejű szabályozás mellett foglal állást, és egy FAA-szerű ügynökséget képzel el, amely hatalommal rendelkezik veszélyes modellek blokkolására.
Nagy kép
Hassabis úgy véli, hogy az általános mesterséges intelligencia (AGI) — olyan rendszer, amely az emberi agy kognitív képességeit mind teljes körűen birtokolja — "valószínűleg csak néhány rövid évre van". Ezt egyben figyelmeztetésként és sürgetésként adja elő: szerinte a cselekvés, amelyet most közösen tesz az ipar, meghatározza a közeljövőt. Manifestumában költőien megjegyzi: "Lényegében találtunk módot arra, hogy a homokot gondolkodtatni lehessen. Csodálatos."
A javaslat további részleteit és indoklását Hassabis a nyilvánosságra hozott írásában fejti ki.
