Chris Lehane, az OpenAI Chief Global Affairs Officer-e szerint az AI-képességek gyors előrehaladása új politikai lépéseket követel meg. Lehane azt írja, hogy egyedül sem egy cég, sem egy iparág, sem egy kormány nem képes kezelni a felmerülő kockázatokat; a hangsúlyt a gyakorlati cselekvésre kell helyezni a szabályozás tökéletessége helyett.
Mi a probléma és miért sürgős?
OpenAI érve szerint az előrehaladott mesterséges intelligencia egyszerre hozhat jelentős előnyöket — például gyorsíthat gyógyszerfejlesztést, erősítheti a kritikus infrastruktúrát, bővítheti a gazdasági lehetőségeket és segíthet megoldani nehéz tudományos problémákat —, és hozhat komoly kockázatokat is. A cég figyelmeztet: a képességek nem maradnak a néhány élvonalbeli laboratórium privilégiumában; a fejlesztések világszerte, köztük nyílt modellek formájában is egyre közelebb kerülnek a jelenlegi élvonalhoz és széles körben elérhetővé válnak.
OpenAI hivatkozik Jakub Pachocki vezető tudós érvelésére az „extrém óvatosságról” és Greg Brockman által leírt „defenders window” koncepciójára: van egy rövid időablak, amikor a védők megerősíthetik rendszereiket, mielőtt az erős támadó képességek általánossá válnának. Politikai szinten ugyanez a rövid ablak vonatkozik a tartós szabadsávok és szabályok megalkotására.
Milyen technikai és szervezeti lépéseket javasol OpenAI?
OpenAI elmondása szerint a cég már megerősítette a monitorozást, az igazítást (alignment) és a biztonsági intézkedéseket a modellfejlesztési életcikluson keresztül: például a frontier kutatási munkaterhelések erősebb izolációja, a modellviselkedés kiterjedtebb monitorozása eszközhasználat közben, valamint világosabb szabályok a problémák eszkalálására. Az Astra kapcsán univerzális pályafolyamat-monitorozást vezettek be (ideértve a gondolatmenet-láncokat) és kötelező igazítási értékelési kaput a belső szélesebb körű bevezetés előtt.
A cég kijelenti: ha a továbblépés elfogadhatatlan biztonsági kockázatot jelentene, akkor lelassítják vagy leállítják a fejlesztést vagy üzembe helyezést, ahogyan azt korábban is tették, és ahogy a saját felkészültségi keretrendszerük előírja.
OpenAI szerint a teljesen autonóm, rekurszív önfejlesztés (amikor az AI önállóan hajtja létre a következő, képességesebb generációkat) ma még nem történik meg, és nem szabad törekedni rá, amíg nem lesz biztonságosan megvalósítható. Ugyanakkor a mesterséges intelligencia már gyorsít bizonyos kutatási folyamatokat: OpenAI korábbi kutatása szerint AI-ügynökök néhány napot igénylő feladatokat képesek elvégezni, amit tapasztalt kutatók végeznének.
Céljuk, hogy automatizált, emberi felügyelet alatt működő AI-kutatókat fejlesszenek, amelyek a következő generációk biztonságát, igazodását és irányíthatóságát javítják, nem pusztán a képességek növelése érdekében.
Szabályozási javaslatok: kötelező, képességalapú keret
OpenAI azt javasolja, hogy az Egyesült Államoknak kötelező, képességalapú szövetségi szabályozásra van szüksége, amely képes a technológia fejlődésével együtt változni. A cég Blueprint for Democratic Governance of Frontier AI című anyagára hivatkozik, amely közös tesztelési és független értékelési követelményeket, erősebb kibervédelmi előírásokat, világos incidens-bejelentési szabályokat, nagyobb nemzeti felkészültséget és közös mérőszámokat javasol a rekurszív önfejlesztés felé vezető előrehaladás nyomon követésére.
OpenAI azt is hangsúlyozza, hogy a szövetségi szabályoknak célzottan kell vonatkozniuk azokra a kevés, jól finanszírozott laboratóriumra, amelyek a legképességesebb rendszereket fejlesztik; a kisebb startupok, kutatók és nem élvonalbeli fejlesztők számára nem helyénvaló ugyanolyan terheket róni. A kötelezettségeknek arányosnak kell lenniük a képességekkel és a kockázatokkal.
A cég elutasítja, hogy a frontier-biztonsági politika valamilyen formában az „open-weights policy” másik neve legyen: nyílt modelleknek is lehet szerepük a megoldásban, például kibervédelemben vagy helyi telepítést igénylő helyzetekben. OpenAI korábban aláírta az Open Weights and American AI Leadership levelet, és úgy véli, hogy Amerikának mind nyílt, mind zárt modellekre szüksége van.
Állami szabályozás és támogatott törvényjavaslatok
Amíg a Kongresszus nem cselekszik, OpenAI azt javasolja, hogy az államok töltsék be az üres helyet és emeljék a biztonsági szintet. A cég korábban támogatta California SB 53-at, New York RAISE Act-jét, Illinois SB 315-ét, és Massachusetts-ben tárgyalt frontier-biztonsági törvényjavaslatok független auditjait.
Most OpenAI hivatalosan is támogat négy további, a kaliforniai törvényhozáson átment, az államfőhöz, Gavin Newsom kormányzóhoz küldött javaslatot:
-
SB 813: folyamatot hozna létre arra, hogy kvalifikált, független szervezeteket jelöljenek ki AI-kockázatok felmérésére. OpenAI úgy véli, hogy a szövetségi szinten kötelező független technikai értékelések lennének ideálisak, de a szövetségi cselekvés hiányában Kalifornia segíthet a nemzeti rendszer szabályainak megalkotásában.
-
AB 1405: regisztrációs, függetlenségi, átláthatósági és elszámoltathatósági követelményeket írna elő AI-auditorok számára.
-
SB 1119: kötelező kor-ellenőrzést, kockázatértékelést, független auditokat, szülői irányítási lehetőségeket és védekezést a káros tartalmakkal szemben gyermekeknek és tizenéveseknek készült társas chatbotok esetén. OpenAI jelezte korábbi támogatását az erre épülő intézkedéseknek, és rámutatott termékbe épített fiatalvédelmi funkcióira (például erősebb alapértelmezések érzékeny területeken, Quiet Hours, Study Hours és szünet- emlékeztetők a ChatGPT for Teensben).
-
AB 1864: megkövetelné, hogy génszintézist végző szolgáltatók és padlóba helyezhető szintézisberendezés-gyártók kövessék a szövetségi szűrési normákat, erősítve ezzel a fizikai védvonalat az AI-vezérelt biológiai fenyegetésekkel szemben.
Lehane megemlíti, hogy néhány, ezek közül a törvényjavaslatok közül korábban nem kapta meg OpenAI támogatását, de a képességek utóbbi ugrása miatt a cég felülvizsgálta és most támogatja őket. Ugyanakkor hangsúlyozza: ezek nem helyettesítik a szövetségi szabályozást, de védelmet nyújthatnak most, bemutathatják a működőképes intézkedéseket és lendületet adhatnak a szövetségi cselekvésnek.
Követelmények a monitorozásra és a jelentéstételre
OpenAI szerint a laborokban belül is szükség van konkrét gyakorlatokra, különösen a monitorozásra. Ez különösen fontos az úgynevezett misalignment, azaz az a helyzet miatt, amikor egy modell célokat követ olyan módon, amely sérti az emberi szándékot vagy elfogadott határokat, még ha a rendszer nem is rendelkezik tudatossággal vagy rosszindulattal.
A fejlesztőknek kötelező monitorozniuk kell az ilyen viselkedéseket, és be kell tudniuk mutatni, hogy hatékony védőintézkedések vannak. A monitorozásnak kapcsolódnia kell világos közzétételi kötelezettségekhez: a cég azt támogatja, hogy ha egy modell a fejlesztés vagy értékelés során jogosulatlanul kikerüli egy másik szervezet biztonsági kontrolljait és anyagilag, működésileg vagy bizalmas információk tekintetében jelentős hatást gyakorol, akkor az érintett feleket írásban gyorsan értesíteni kell.
OpenAI bejelentette, hogy dolgozik egy keretrendszeren a jelentős misalignment-incidensek bejelentésére és a frontier-modellek aktivitásának rendszerszintű monitorozására, beleértve a vállalaton belüli használatot is. Ez jelenleg vállalati kezdeményezésként indul, de remélik, hogy hozzájárulhat a szövetségi politikához.
Nemzetközi dimenzió és záró megállapítások
OpenAI szerint az iparági önszabványok kiegészíthetik, de nem helyettesíthetik a kötelező szövetségi szabályozást és a demokratikus felügyeletet. A cég hangsúlyozza, hogy a szabványoknak végül túl kell nyúlniuk a nemzeti határokon, mert a modellek, a kutatás és a szakértelem globálisan mozog, és a legtöbb képességes rendszer meghibásodása nemzetközi következményekkel járhat.
A cikk zárásaként Lehane azt írja: az AI-szabályozás időablaka még nyitva áll — most kell cselekedni sürgősen, alázattal és alkalmazkodóképességgel. Támogatni kell olyan komoly javaslatokat, amelyek lényegesen emelik a biztonsági szintet, még ha nem is pontosan úgy néznek ki, ahogyan az OpenAI elképzelte volna. A nagyobb kockázat most az, ha túl sokáig várunk az első lépéssel.
Fő szervezetek és személyek említve
- OpenAI
- Chris Lehane, Chief Global Affairs Officer, OpenAI
- Jakub Pachocki, OpenAI Chief Scientist (hivatkozott érvelése az óvatosságról)
- Greg Brockman (a „defenders window” koncepció említése)
- Gavin Newsom, Kalifornia kormányzója
Konkrét jogszabályok és dokumentumok említve
- OpenAI: Blueprint for Democratic Governance of Frontier AI
- OpenAI Preparedness Framework (felkészültségi keret)
- California: SB 813, AB 1405, SB 1119, AB 1864
- Korábbi támogatások: California SB 53, New York RAISE Act, Illinois SB 315, Massachusetts frontier safety audit-javaslatok
- Open Weights and American AI Leadership levél
- Parents & Kids Safe AI Act és ChatGPT for Teens termékintézkedések
