- november 5-én megjelentek azok az események és bejelentések, amelyek együttesen új fordulatot jeleznek az AI-biztonsági szabályozás és nemzetközi együttműködés terén. Az elmúlt hét során három egymást kiegészítő lépés történt: az Egyesült Államok kibocsátott egy átfogó végrehajtási rendeletet (Executive Order), a G7 elfogadott egy Nemzetközi Magatartási Kódexet (International Code of Conduct), és az Egyesült Királyság Bletchley Parkban rendezett első, kifejezetten AI-biztonságról szóló csúcstalálkozót, amely a Bletchley Declarationt hozta létre.
Az Egyesült Államok végrehajtási rendelete
Az Amerikai Egyesült Államok végrehajtási rendelete több mint 100 oldalas, és széles spektrumban kezeli az AI-hoz kapcsolódó kockázatokat: a magánéletre, a torzításokra és méltányosságra vonatkozó hatásoktól kezdve a potenciális katasztrofális kockázatokig. A dokumentum elismeri az AI előnyeit is, és utasítja a kormányzati szerveket, hogy nevezzenek ki Chief AI Officer-eket, és azonosítsák a technológia kormányzati szolgáltatásokban való hasznosításának lehetőségeit.
A rendelet különös hangsúlyt helyez a National Institute of Standards and Technology (NIST) szerepére: a NIST feladata lesz többek között a modellek képességeinek és biztonsági jellemzőinek értékelése, a Secure Software Development Framework kiterjesztése a frontier modellek biztonságos fejlesztési gyakorlatainak bevonására, valamint a Risk Management Framework-re épülő, generatív AI-hoz kapcsolódó kiegészítő keret kidolgozása. Emellett elindít egy pilotot a National AI Research Resource (NAIRR) számára, amely a kutatókhoz szükséges adatokhoz és számítási kapacitáshoz való hozzáférés javítását célozza az AI-biztonsági kutatások és hasznos alkalmazások fejlesztése érdekében.
A rendeletet ismertető anyagok említik továbbá a CREATE AI Act-hez és a NAIRR-hez kapcsolódó kezdeményezéseket; az Anthropic vállalat a megalapításától fogva támogatta a NAIRR-t és a kapcsolódó jogszabályi javaslatot.
A G7 Nemzetközi Magatartási Kódexe
A G7 Hiroshima-folyamat keretében kidolgozott Code of Conduct for Organizations Developing Advanced AI Systems a Fehér Ház által korábban bejelentett, önkéntes vállalati kötelezettségvállalásokra épít. A kódex felelősségteljes gyakorlatokat ír le az AI fejlesztési és üzemeltetési életciklusában felmerülő kockázatok azonosítására és mérséklésére: ide tartoznak az értékelések, az információmegosztás, a kormányzati irányítási megoldások, a biztonsági eljárások és az átláthatósági intézkedések.
Ha kormányok és vállalatok széles körben támogatják, a kódex alapul szolgálhat nemzetközi jó gyakorlatok és későbbi hazai jogszabályok számára. Az Anthropic támogatja a G7 kódexet, és azt tervezi, hogy az irányelveket saját fejlesztési és telepítési gyakorlataihoz igazítja, a Fehér Ház kötelezettségvállalásai mellett.
A Bletchley Park-i AI Safety Summit és a Bletchley Declaration
Az Egyesült Királyság Bletchley Parkban tartott AI Safety Summit-ja kormányzati képviselőket, akadémiai, ipari és civil szervezeti szakértőket hívott össze, hogy részletezzék az ún. frontier AI-vel kapcsolatos aggályokat és megvitassák a lehetséges lépéseket. Anthropic vezérigazgatója, Dario Amodei is tartott beszédet, amelyben bemutatta a cég Responsible Scaling Policy nevű megközelítését; a cég szerint ez a politika irányadóként szolgálhat más frontier fejlesztők és szabályozási prototípusok számára.
A csúcson részt vevő 28 ország aláírta a Bletchley Declarationt, amely több szereplős együttműködést sürget az AI előnyeinek kihasználása és a kockázatok kezelése érdekében; a nyilatkozat aláírói között megtalálható Kína és fejlődő országok is. A résztvevő államok egyetértettek abban is, hogy támogatják egy nemzetközi értékelés létrehozását a frontier AI képességeiről és kockázatairól, hogy a tudomány állapota alapján tájékozottabb döntések születhessenek, illetve hogy azonosítsák a prioritást élvező AI-biztonsági kutatási területeket.
A nyilatkozat és a tervezett tudományos értékelő panel üdvözlendők, és remény szerint ösztönzik majd a konkrét és tartós nemzetközi együttműködést.
Kormányzati intézetek és értékelési kapacitás
A csúcson az Egyesült Királyság bejelentette, hogy a Frontier AI Task Force átalakul és AI Safety Institute-ként folytatja munkáját — ez az első jelentős kormányzati kezdeményezés, amely kimondottan a frontier AI modellek kockázatainak értékelésére fókuszál. Az AI Safety Institute szakértői már dolgoznak laboratóriumi modellek, köztük Anthropic modelljeinek privát tesztelésén; a cég szerint ez a legtechnikailag kifinomultabb kormányzati együttműködés, amelyben eddig részt vettek.
Ezzel párhuzamosan az Egyesült Államok bejelentette, hogy NIST-konzorciumon keresztül indítana hasonló, amerikai társintézményt, amely a rendszerek értékelésére szolgáló módszerek fejlesztését támogatja, különös tekintettel a biztonságra és a megbízhatóságra. A NIST továbbá iránymutatásokat készít majd a "frontier threats red teaming" gyakorlatokhoz, azaz a modellek potenciálisan veszélyes kettős felhasználású képességeinek azonosításához.
A cikk megjegyzi, hogy a NIST szerepe kulcsfontosságú, és több forrás biztosítása tovább növelné a szervezet képességét az AI-biztonsági értékelések terén. Emellett szélesebb értelemben a szerzők hangsúlyozzák: a kormányoknak beruházniuk kell saját mérési és monitorozási kapacitásaikba; az Egyesült Királyság, az Egyesült Államok és Szingapúr lépéseit, illetve európai javaslatokat bíztatóként említik.
Miért számít mindez?
Az elmúlt hét bejelentései egy új fázis kezdetét jelzik az AI-biztonság és -politika terén: a nagy államok példátlan érdeklődést és elköteleződést mutatnak az AI rendszerek értékelése és monitorozása iránt. A központi elemek a képességek mérése, a visszaélés lehetőségeinek feltárása és a modellek belső biztonsági tulajdonságainak vizsgálata. Az értékelési tudomány fejlesztése és független tesztelési protokollok létrehozása alapfeltételek a megalapozott szabályozásnak; ezek ráadásul segíthetnek a kisebb, erőforrás-hiányos szereplők versenyképességének növelésében azáltal, hogy objektív információt szolgáltatnak kormányok, ügyfelek és a nyilvánosság számára.
Anthropic kifejezte elkötelezettségét abban, hogy részt vegyen ezekben az erőfeszítésekben és előmozdítsa egyfajta „safety race to the top” kialakulását.
Következő lépések
A mostani bejelentésekhez kapcsolódó konkrét szabályozási lépések és finanszírozási döntések következő hónapokban és években formálódnak majd. Különösen fontos lesz a NIST és a brit AI Safety Institute működésének kialakulása, a G7 kódex elfogadottsága a magánszektorban, valamint a Bletchley Declaration által kezdeményezett nemzetközi tudományos értékelés előrehaladása.
