Anthropic 2025. szeptember 8-án nyilvánosságra hozta, hogy támogatja a Kaliforniai Államkormányzat számára benyújtott SB 53 számú törvényjavaslatot, amely a „frontier” AI-fejlesztők által készített nagy teljesítményű rendszerek átláthatóságát és biztonsági kötelezettségeit szabályozná. A vállalat hangsúlyozta, hogy hosszú ideje a megfontolt AI-szabályozás mellett érvel, és az SB 53 melletti döntés a kaliforniai korábbi szabályozási kísérletekből (különösen a SB 1047-ből) levont tanulságok megfontolásán alapul.
Miért fontos a szabályozás
Anthropic szerint a frontier AI-biztonságot ideálisan szövetségi szinten kellene kezelni, nem pedig államonként eltérő jogszabályokkal, de a technológiai előrelépések nem várnak Washington konszenzusára. Gavin Newsom kaliforniai kormányzó megalakította a Joint California Policy Working Group nevű testületet — tudósokból és iparági szakértőkből álló munkacsoportot —, amely a „trust but verify” (bízz, de ellenőrizz) elven alapuló ajánlást tett. Scott Wiener szenátor által előterjesztett SB 53 ezt az elvet nyilvánosságra hozatali kötelezettségekkel valósítaná meg, a kötelező technikai előírások helyett.
Mit ír elő az SB 53
A törvényjavaslat szerint a legnagyobb cégeknek, amelyek a legnagyobb teljesítményű AI-rendszereket fejlesztik, a következő kötelezettségeik lennének:
- Biztonsági keretrendszerek kidolgozása és nyilvánosságra hozatala, amelyek leírják, hogyan kezelik, értékelik és mérséklik a katasztrofális kockázatokat — azaz azokat a kockázatokat, amelyek előreláthatóan és jelentősen hozzájárulhatnak tömeges sérülésekhez vagy nagy anyagi károkhoz.
- Nyilvános átláthatósági jelentések közzététele, amelyek összegzik a katasztrofális kockázatértékeléseket és a bevezetés előtti lépéseket.
- Kritikus biztonsági események bejelentése az állam felé 15 napon belül, valamint bizalmas összefoglalók megadása a belső használatú modellek potenciális katasztrofális kockázataival végzett értékelésekről.
- Egyértelmű whistleblower-védelmek biztosítása, amelyek kiterjednek a törvényi kötelezettségek megsértésének bejelentésére és a közegészségre vagy közbiztonságra nézve fennálló súlyos veszélyekre.
- Nyilvános felelősségre vonhatóság a keretrendszerben vállalt kötelezettségekért, illetve pénzbírsággal járó szankciók alkalmazása megszegés esetén.
A javaslat különösen a nagyvállalatokra fókuszál, és mentességet biztosít a kisebb startupoknak, amelyeket kevésbé valószínű, hogy hatalmas modellek fejlesztésére ösztönöznének, így elkerülve a szükségtelen szabályozási terheket.
Hogyan kapcsolódik ez az iparági gyakorlatokhoz
Anthropic rámutat, hogy az SB 53 előírásai legalább részben formalizálnák azokat a gyakorlatokat, amelyeket a cég és más frontier AI-laborok már követnek. Anthropic saját Responsible Scaling Policy (Felelős Bővülési Irányelv) dokumentumát idézte, amely ismerteti a képességek növekedésével kapcsolatos kockázatértékelési és mérséklési módszereket. A vállalat rendszerkártyákat (system cards) is közzétesz, amelyek dokumentálják a modellek képességeit és korlátait. Más nagy laborműhelyek — Google DeepMind, OpenAI és Microsoft — hasonló megközelítést alkalmaznak, miközben intenzíven versenyeznek a technológiai élvonalban.
A törvénytervezet célja, hogy ezeket az átláthatósági normákat jogi kötelezettséggé tegye: ne opcionális versenyelőny, hanem kötelező követelmény legyen a potenciálisan veszélyes képességekkel rendelkező modellek esetén. Anthropic szerint ez megakadályozhatja, hogy az egyre erősebb modellekkel rendelkező laborok versenynyomás miatt csökkentsék saját biztonsági és nyilvánosságra hozatali programjaikat.
Előremutató javaslatok és aggályok
Anthropic üdvözli az SB 53 felépítését, de további finomításokat tart szükségesnek és javasol a következő területeken:
- A törvény jelenleg a szabályozás alá eső rendszereket a képzés során felhasznált számítási teljesítmény (FLOPS) alapján határozza meg. A jelenlegi küszöbérték 10^26 FLOPS jó kiindulópontnak tekinthető, de fennáll a kockázata, hogy néhány erősebb modell mégis kimaradjon a hatály alól.
- A fejlesztőknek részletesebben kellene beszámolniuk a végzett tesztekről, értékelésekről és alkalmazott mérséklő intézkedésekről. Anthropic szerint a biztonsági kutatás megosztása, a red team tesztek dokumentálása és a bevezetési döntések indoklása — például a Frontier Model Forum keretében végzett iparági együttműködésekben — erősíti a biztonságot.
- A szabályozásnak képesnek kell lennie fejlődni az AI-technológia előrehaladtával; a szabályalkotóknak lehetőséget kell adni az előírások frissítésére, hogy megtartsák a biztonság és az innováció közötti megfelelő egyensúlyt.
Záró megjegyzés
Anthropic megdicséri Scott Wiener szenátort és Gavin Newsom kormányzót a felelős AI-irányításért tett lépéseikért. A cég szerint a kérdés nem az, hogy szükség van-e AI-szabályozásra, hanem az, hogy azt körültekintően ma alakítjuk-e ki vagy reagálunk majd később kapkodva. Anthropic bátorítja Kaliforniát az SB 53 elfogadására, és kész együttműködni washingtoni és nemzetközi döntéshozókkal átfogó megközelítések kidolgozásában, amelyek védik a közérdeket, miközben fenntartják az amerikai AI-vezető szerepét.
