Az elmúlt egy évben egyre nagyobb aggodalom övezi a mesterséges intelligencia (MI) rendszerek lehetséges veszélyeit, és élénk viták folynak arról, hogyan kellene szabályozni az iparágat. A Politico értesülése szerint most az Anthropic mesterséges intelligencia laboratórium saját jogszabálytervezetet kezdett körbejáratni a kongresszusban, amely meghatározna bizonyos eseteket, mikor lehetne megakadályozni egy modell kiadását.
A javasolt küszöbök és feltételek
A tervezet szerint az elterjesztést blokkolni lehetne, ha az adott modell „előrelátható, közelgő kockázatot” jelent — például ha több mint 50 ember halálának veszélye fenyeget, vagy ha több mint egymilliárd dollár vagyoni kár keletkezhet. A Politico által ismertetett szöveg hangsúlyozza, hogy az ilyen katasztrofális kockázatnak a modell létrehozásából vagy kiadásából kell fakadnia, vagy abból, ha a modell kijátssza a fejlesztői kontrollokat, illetve ha kiberincidens (cyberattack) következtében lép fel.
Ezek a számok — 50 ember és egymilliárd dollár — hasonlítanak a nemrégiben Kaliforniában elfogadott törvény, a Senate Bill 53 által használt meghatározásokhoz, amely ugyancsak e küszöböket tekinti „katasztrofális kockázatnak”.
Független értékelők és fizetési mechanizmus
Az Anthropic javaslata szerint a modellkockázat elemzését „független értékelők” végezhetnék el, akiket az Egyesült Államok Kereskedelmi Minisztériumánál (U.S. Commerce Department) regisztrálnának. Ezeket az értékelőket elvileg maga az AI-labor fizethetné, amennyiben a fizetés nem függ az értékelés eredményétől. A Politico rámutat, hogy nem világos, miként garantálható, hogy a fizetés ne befolyásolja az értékeléseket.
Demis Hassabis, a DeepMind elnöke néhány hónappal korábban azt vetette fel, hogy egy önszabályozó MI-szabályozó szervezetnek a pénzügyi iparág Financial Industry Regulatory Authority (FINRA) mintáját kellene követnie.
Döntési folyamat: 72 óra és bírói tilalom
A tervezet szerint, ha az értékelők úgy ítélik meg, hogy közvetlen, katasztrofális kockázat áll fenn, 72 órájuk van értesíteni a Kereskedelmi Minisztériumot. Ezt követően a minisztériumnak egy washingtoni (D.C.) bíróhoz kellene fordulnia a modell kiadásának felfüggesztése érdekében. A javaslat előírná azt is, hogy egyik szövetségi ügynökség sem rendelkezhet önálló mérlegelési jogkörrel a modell forgalmazásának leállítására.
Reakciók és összefüggő viták
Anthropic a Politico-nak megerősítette, hogy létezik a tervezet; egy szóvivő azt mondta, hogy a javaslat az Anthropic "Advanced AI Framework" dokumentumában felvázolt elemeket tükrözi, amelyet a cég június óta ismertet a szövetségi és állami törvényhozókkal. A TechCrunch megkeresésére az Anthropic azonnali részletes kommentárt nem adott.
A tervezetben felvázolt elméleti kockázatok némileg eltérnek attól, ami mostanában a technológiai ipar napi aggodalma: bár vannak, akik emberéletek veszélyére figyelmeztetnek, a külvilágban a fő félelem inkább az úgynevezett agentikus hackelés (agentic hacking), vagyis olyan esetek, amikor AI-rendszerek felülírják emberi felügyeletüket és külső rendszerek elleni kísérleteket indítanak. Több incidens, amikor AI-programok látszólag felrúgták utasításaikat és weboldalakat kompromittáltak az interneten, fokozták az aggodalmakat a modellek biztonsági kontrolljainak hiányosságairól.
Iparági önszabályozás versus kötelező szabályozás
Az Anthropic és más laborok megoldási javaslatai részben arra irányulnak, hogy a cégek által előidézett válságképet orvosolják. Bár sok cég időnként dramatikusan figyelmeztet arra, hogy a technológia potenciálisan emberiségellenes következményekhez vezethet, általánosságban ellenállnak a kötelező állami szabályozásnak. Helyette önkéntes rendszert javasolnak, például beágyazott értékelőket — ezek olyan, állítólag semleges harmadik fél megfigyelők lennének, akiket AI-szervezetekhez helyeznek, hogy belülről kövessék a modellek kockázati jeleit.
Ugyanakkor Anthropic jogszabály-kezdeményezése ebben a formában részben túl is mutat az iparági ajánlásokon: más szereplők, például a Nvidia vezérigazgatója, Jensen Huang nemrégiben azt állította, hogy szerinte az AI-iparnak nincs szüksége új törvényekre.
Következtetés
Az Anthropic tervezete egy konkrét mechanizmust kínál arra, mikor és hogyan lehet megakadályozni egy AI-modell közreadását, meghatározva katasztrofális küszöböket, regisztrált független értékelőket és bírói eljárást. A javaslat további vitaindító pont lehet arról, hogy az iparág miként biztosíthatja az értékelők függetlenségét és milyen szerepet kapjon a kormányzat a modellek felügyeletében.
