Scott Wiener, aki a közelmúltban megnyerte Nancy Pelosi korábbi, San Franciscoi kongresszusi körzetét, azt mondja, hogy a Kongresszusban is élére állna az előremutató, az úgynevezett frontier mesterséges intelligencia szabályozásának. Wienerrel azt követően beszéltem, hogy pár órával korábban bejelentették győzelmét; akkor már az AI kockázatairól beszélt.
Mi indította rá a figyelmét most különösen az AI‑ra?
A beszélgetés napján a METR nevű AI‑civil szervezet egy olyan jelentést tett közzé, amelyet sokan úgy értelmeztek, hogy az Anthropicnál megfigyeltek a „recursive self‑improvement”, vagyis a rendszer saját fejlődéséhez jelentősen hozzájáruló visszacsatolás jeleit. Wiener ezt „nagyon aggasztónak” nevezte, és úgy fogalmazott, hogy gyorsan fogy az idő a szabályozásra.
„Az volt a reményem, hogy a Kongresszus még az év vége előtt döntő lépéseket tesz,” mondta Wiener, majd hozzátette: „Úgy tűnik, ez nem történik meg.” Többször is használta a „recursive self‑improvement” kifejezést, és hangsúlyozta: „Lassítani kell. Ez nagyon gyorsan mozog, és álomszerű bódultságba sétálhatunk bele, ami katasztrófához vezethet.”
Korábbi befolyása Kaliforniában
Wienernek már volt gyakorlati hatása az AI‑politikára. 2024‑ben ő jegyezte az SB 1047 nevű törvényjavaslatot, amely az ország első valódi frontier AI‑szabályozásává lett volna Kaliforniában, ám Gavin Newsom kaliforniai kormányzó megvétózta. Ezt követően Wiener szponzorálta az SB 53‑at, egy enyhébb szabályozást, amelyet Newsom aláírt. Mindkét törvényjavaslat inspirációt jelentett a szövetségi törvényjavaslatok számára.
Finanszírozás és kritikák
Wiener kampányát Public First Action nevű nonprofit támogatta több mint 3 millió dollárral; ezt a szervezetet jelentős mértékben az Anthropic finanszírozza. Ezzel kapcsolatban támadták Wiener‑t azzal, hogy túl közel áll az AI‑iparhoz. Wiener viszont tagadja ezt: üzenetében kijelentette, hogy Public First azért támogatta őt, mert „ő volt az első törvényhozó az országban, aki AI‑szabályozást vezetett be, és az első, aki elfogadtatta és végrehajttatta azt” — és szerinte a rá irányuló támadások „meglepően cinikusak”.
Mit szeretne a szövetségi szinten?
Wiener támogatna egy, az AI‑ra létrehozott különösebb vizsgálóbizottságot (select committee), és örömmel szolgálna egy ilyen testületben, ha azt a Kongresszus felállítaná. Több, a törvényhozásban felmerülő javaslattal is egyetért: támogatja egy erős, felhatalmazott és rugalmas szövetségi szabályozó létrehozását, amelyet többek között Ro Khanna képviselő javasolt.
Konkrét javaslataik közé sorolja a whistleblower‑védelmet, a tesztelési és auditálási kötelezettségeket, valamint a „kill switch” követelményét, és hangsúlyozza a Kongresszus felügyeleti jogkörének kihasználását az AI laboratóriumok elszámoltathatósága érdekében. „A jövőről van szó, és azt akarjuk, hogy a nyilvánosságnak beleszólása legyen, és tudja, mi történik” — mondta.
Államok szerepe és félelmek a szövetségi előírásokkal kapcsolatban
Hosszú ideje állami törvényhozóként szolgáló politikusként Wiener ellenzi a túlzott szövetségi felülírást (federal preemption) olyan esetekben, amikor a javasolt szövetségi szabályok megtiltanák az államok saját AI‑szabályozását. Utalt Louis Brandeis bíró híres kijelentésére, hogy az államok „laboratóriumokként” működhetnek, és fontos, hogy a tagállamok rugalmasak maradhassanak.
A kockázat súlyos megítélése és a politizálás kihívásai
Wiener erősen komolyan veszi a katasztrofális AI‑kockázat lehetőségét, olyan kifejezéseket használva, amelyeket általában az AI‑biztonsági szakértők. „Egy nagyon veszélyes pillanatban vagyunk a kontroll elvesztésének kockázata szempontjából” — mondta — és figyelmeztetett a recursive self‑improvement lehetséges következményeire: „ha ebbe a tartományba kerülsz, az potenciálisan receptje a teljes kontrollvesztésnek.”
Lesznek szövetségesei: például Bernie Sanders szenátor találkozott az AI‑biztonsági mozgalom irányadó alakjaival, és többször beszélt az AI és az egzisztenciális kockázat kérdéséről. Ugyanakkor Wiener szerint jelentős szakadék van a Bay Area‑i, AGI‑kockázatokat hangsúlyozó nézőpont és a nemzeti közvélemény között, amelyet sok helyen inkább az adatközpont‑ellenesség határoz meg.
A választások napján a szavazók 41‑ből 40 helyi adatközpont‑ellenes népszavazási kezdeményezést jóváhagytak; Wiener szerint ez elsősorban helyi aggályokat tükröz (például a háztartásokra gyakorolt költség- és vízhasználati hatásokat), nem pedig általános elutasítást a nagy AI‑kockázatokkal szemben.
Remény és fenntartások a szövetségi cselekvés kapcsán
Wiener „óvatosan optimista” a Kongresszus képességeit illetően, figyelembe véve annak gyenge múltját a tech‑szabályozásban. Aggodalmai vannak azzal kapcsolatban is, hogy egy esetleges törvényhozást át tudna‑e vinni egy olyan elnök, mint Donald Trump, aki szeptemberben a katasztrofális AI‑kockázatot „átverésnek” nevezte, és aki nem mutatott készséget a kínai együttműködésre — pedig Wiener szerint a nemzetközi együttműködés kulcsfontosságú a legsúlyosabb következmények megelőzéséhez.
Ugyanakkor Wiener szerint Trump kiszámíthatatlansága némi, ha bonyolult reménysugarat is adhat: „Eddig problémás dolgokat láttunk, de nem teljes katasztrófákat. Remélem, nem egy katasztrófa kell ahhoz, hogy a köztársasági elnök cselekedjen. Ha mégis ez történik, remélem, minél kisebb mértékben történik meg.”
Összegzés
Scott Wiener számára a győzelem Pelosi volt körzetében egy esély arra, hogy a szövetségi politikában is előmozdítsa az általa támogatott, viszonylag szigorú AI‑szabályozást: erős felügyeleti hatóság, whistleblower‑védelem, auditok és kill switch‑kötelezettség. Figyelmeztet a „recursive self‑improvement” jelenségre és azt szeretné, hogy a Kongresszus valóban hatékony, érdemi szabályokat hozzon, miközben óv a túlzott állami felülírástól.
