Egy javaslat szerint a világ vezető országainak és szabványfejlesztő intézményeknek közös, műszaki jellegű szabványokat kell kidolgozniuk a frontvonalbeli mesterséges intelligencia (AI) fejlesztésére, különös tekintettel az automatizált AI-kutatásra és a rekuzív önfejlesztésre (RSI). A kezdeményezés mögött az a gondolat áll, hogy a közös szabványok segíthetnek összeegyeztetni az értékelési módszereket, az incidenstámogatási és jelentési gyakorlatokat, valamint a humán felügyeletre vonatkozó követelményeket, ezáltal csökkentve a határokon átnyúló kockázatokat és a szabályozási fragmentációt.
Miért vetődik fel ez az igény?
Az AI gyorsuló fejlődése és az automatizált AI-kutatás terjedése miatt egyre fontosabb, hogy az összhang (alignment) kutatás és a biztonsági intézkedések lépést tartsanak a képességek növekedésével. Amint az AI rendszerek képesebbé és önállóbbá válnak — akár részben az AI-javítók segítségével, amelyek maguk is részt vesznek további modellek fejlesztésében — fennáll annak a veszélye, hogy a fejlődés olyan tempóra gyorsulhat, amelyet a társadalom és a szabályozó intézmények nehezen tudnak követni.
A beadvány felhívja a figyelmet arra is, hogy a Hugging Face Incident, bár nem közvetlen következménye az RSI-nek, példaként szolgálhat arra, milyen jellegű kockázatok súlyosbodhatnak, ha nincsenek hatékony védőintézkedések és nem eléggé fejlett megfelelés.
Mely szereplők és intézmények érintettek?
A javaslat szerint a nemzetközi szabványalkotásban fontos szerepe lehet számos már létező vagy felépülő AI-biztonsági intézet hálózatának, amelyek többek között Ausztráliában, Kanadában, Németországban, Franciaországban, Kenyában, Japánban, Koreában, Szingapúrban, Indiában és az Egyesült Királyságban működnek. Külön említésre kerül a Center for AI Standards and Innovation (CAISI), amely 2024‑ben létrehozta az International Network for Advanced AI Measurement, Evaluation, and Science nevű kezdeményezést.
További együttműködő testületek lehetnek az ISO, a Frontier Model Forum, az Agentic AI Foundation, az Open Secure AI Alliance és implementáció-orientált szervezetek, például az Appia Foundation, amelyek gyakorlati specifikációkkal kötik össze a nemzetközi szabványokat a valós értékelésekkel.
Mire terjednének ki a tervezett szabványok?
A javaslat hangsúlyozza, hogy a kidolgozott szabványok műszaki alapot adhatnának a következőkhöz:
- A frontvonalbeli modellek és fejlesztők képességmérése és értékelése, képességreferenciák alapján.
- Az automatizált AI-kutatás, köztük az RSI kockázatainak és előnyeinek kezelése: milyen automatizált kutatási folyamatok igényelnek emberi felülvizsgálatot; mennyi autonóm kutatás zajlik egy vállalatnál.
- Incidenskezelés: egységes osztályozás, követési, jelentési és reagálási küszöbök az igazodási és automatizált kutatási problémákra; ennek korai hozzájárulása például a javaslatban említett misalignment reporting framework.
A tervezett szabványok technikai természetűek lennének — nem előzetes engedélyezési vagy kötelező kiadási eljárások —, és a nemzeti kormányok dönthetnének arról, hogy hogyan, illetve beépítik-e ezeket a saját jogrendszerükbe.
Miért nem elég a nemzeti szabályozás?
A cikk három fő kihívást azonosít, amelyek nemzetközi megoldásokat igényelnek:
- Fragmentáció: különböző országok értékelési és jelentési követelményei összeütközhetnek, ami megnehezíti a képességek összehasonlítását és a határokon átnyúló kockázatok kezelését.
- Kollektív cselekvés problémája: ha minden állam külön cselekszik, előállhat olyan eredmény, amelyet valójában egyik fél sem akar; különösen az RSI gyorsíthatja a kutatást olyan ütemre, amely meghaladja kollektív felügyeleti képességeinket.
- Egyenlőtlen kapacitás: a frontvonalbeli fejlesztés és a kapcsolódó szakértelem nem egyenletesen oszlik el a világban, ami erősíti a fenti problémákat.
Ezek a kérdések mind az open, mind a closed modellekre vonatkoznak.
Elvek és fenntartások
A kezdeményezés hangsúlyozza, hogy bármely AI-labor, amely automatizált AI-kutatást folytat vagy fejlett képességekre törekszik, felelősséggel tartozik a biztonságos eljárásokért és a vonatkozó törvények betartásáért. A szabványok célja nem a hatalom koncentrációjának elősegítése, hanem annak elkerülése és jobb, gyakorlatias eredmények elérése: a közös szabványok lehetővé teszik, hogy a laborokon kívüli érintettek is beleszóljanak a technológia alakulásába, valamint látható elveket adnak, amelyektől függetlenül lehet következtetni a gyakorlatokra.
A szabványok kialakítása során a transzparencia és a versenyképesség fenntartása kulcsfontosságú: a folyamatban konzultálni kell mind az open, mind a closed model fejlesztőkkel, független szakértőkkel és akadémiai szereplőkkel, és úgy kell megtervezni a szabványokat, hogy ne adjanak előnyt bizonyos vállalatoknak, országoknak vagy üzleti modelleknek.
Nemzetközi együttműködés és geopolitika
A javaslat szerint az Egyesült Államok különösen jó helyzetben van arra, hogy vezető szerepet vállaljon a kezdeményezésben, mivel az ország AI-ipara műszaki értelemben a frontvonalon áll, és az Egyesült Államok globális hálózati pozíciója — pénzügy, kereskedelem, védelem, technológia és információs rendszerek terén — lehetőséget ad a koherens, nemzetközi megközelítés kialakítására.
A szerzők szerint a geopolitikai versengés nem csupán a technológiai fölényről szól majd, hanem arról is, hogy ki tud érdemi együttműködést és értelmes „játék-szabályokat” kialakítani, amelyek mellett vállalatok és társadalmak szívesen tennék le a jövőjükre vonatkozó fogadásokat.
Következtetés
A közös, nemzetközi technikai szabványok kidolgozása a frontvonalbeli AI‑hoz — különösen az automatizált AI‑kutatáshoz és az RSI‑hez kapcsolódóan — a javaslat szerint segíthet abban, hogy az összhangkutatás és a védelmi intézkedések lépést tartsanak a technikai képességekkel. Ez a megközelítés lehetővé teszi a jobb összehasonlíthatóságot, egységesebb incidenskezelést, és szélesebb részvételt a kockázatkezelésben anélkül, hogy közvetlenül kötelező jogi engedélyezést vezetne be. A kezdeményezés átfogó, nemzetközi párbeszédet és együttműködést javasol a szabványalkotás, a mérés, és a gyakorlatba ültetés érdekében.
