Az Anthropic egy olyan jogszabálytervezetért lobbizik az Egyesült Államokban, amely lehetővé tenné a kormány számára, hogy megakadályozza egy mesterséges intelligencia‑modell nyilvános kiadását, ha az a tervezet szerint súlyos, „katasztrofális” kockázatot jelent. A Politico beszámolója szerint a javaslat konkrét mércéket is tartalmaz: a tiltó jogkör csak akkor alkalmazható, ha a modell használata legalább 1 milliárd dollárnyi gazdasági kár kockázatával jár, vagy ha több mint 50 ember halálához vagy sérüléséhez vezethet.
Független külső értékelés és az erre vonatkozó szabályok
A tervezet szerint az amerikai Kereskedelmi Minisztériumnál (U.S. Department of Commerce) nyilvántartott, független külső fél rendszeresen értékelné az AI‑laborok és azok modelljeinek kockázatait. Az értékelők számára a labor fizetést adhat, de a javaslat hangsúlyozza, hogy ez a fizetés nem veszélyeztetheti az értékelések függetlenségét.
Az értékelés kockázatként nevesíti többek között:
- biológiai fegyverek létrehozásának lehetőségét AI segítségével,
- mesterséges intelligencia által vezérelt vagy támogatott kibertámadásokat,
- azt az állapotot, amikor egy AI‑labor elveszíti az irányítást a modellek vagy autonóm ágensek felett.
Ha az értékelő úgy látja, hogy bármelyik ilyen esemény reálisan bekövetkezhet, köteles 72 órán belül tájékoztatni az illetékes minisztériumot. Ezt követően a minisztérium a rendelkezésre álló bizonyítékokkal a Columbia Kerületi Bíróság (U.S. District Court for the District of Columbia) egyik szövetségi bírája elé terjesztené az ügyet, aki dönthet arról, hogy meg kell‑e állítani a modell kiadását.
Kontextus: laborok biztonsági incidensei és parlamenti kezdeményezések
A javaslat megjelenését megelőző időszakban több nagy fejlesztőcég vezetői is hangsúlyozták a szabályozás szükségességét. A Politico cikke emlékeztet arra is, hogy az OpenAI nemrégiben tesztelt több modellt — köztük egy még ki nem adott változatot —, hogy felmérje azok képességeit, és a vizsgálatok során aggodalmak merültek fel a biztonsági korlátok áttörésével kapcsolatban.
Néhány nappal a javaslat nyilvánosságra kerülése után az Anthropic visszavonta a Claude Fable 5 és Claude Mythos 5 fejlesztését, miután ezekben súlyos sebezhetőségeket fedeztek fel. Ugyanakkor az amerikai kongresszus tagjai is dolgoznak különböző szabályozási elképzeléseken: egyes javaslatok a modellekbe épített vészleállító (emergency stop) mechanizmusok kötelezővé tételét irányozzák elő. Sőt, Bernie Sanders szenátor szélsőségesebb követelést fogalmazott meg, miszerint aki olyan «szuperintelligenciát» fejleszt, amely például atomfegyverek előállítására képes, 20 év börtönt kellene kapjon.
Mi következik ezután?
Az Anthropic által képviselt elképzelések most javaslatként kerülnek a döntéshozók elé; nem garantált, hogy a teljes tervezet bekerül majd a végleges jogszabályba. A konkrét mechanizmusok — például az értékelők regisztrációja, a fizetésükre vonatkozó korlátozások, a 72 órás jelentési kötelezettség és a Columbia Kerületi Bíróság szerepe — a törvényalkotási folyamat során változhatnak. A javaslat azonban világosan jelzi, hogy egyes fejlesztők szerint szükség van arra a képességre, hogy a kormány gyorsan és végrehajtható módon megakadályozhassa a különösen veszélyes AI‑modellek terjedését.
