Anthropic 2024. október 15-én közzétette a Responsible Scaling Policy (RSP) jelentős frissítését, amely azt a kockázatkezelési keretrendszert határozza meg, amellyel az élvonalbeli (frontier) mesterséges intelligencia rendszerek potenciálisan katasztrofális kockázatait próbálja mérsékelni. A frissítés rugalmasabb, árnyaltabb megközelítést vezet be a képességek és a védelem értékelésére, ugyanakkor fenntartja az alapelvet: modelleket csak akkor szabad kiképezni vagy bevetni, ha kellő védőintézkedéseket vezettek be.
Főbb új elemek
-
Képességküszöbök (Capability Thresholds): konkrét képességek meghatározása, amelyek elérése esetén szigorúbb védelmi intézkedéseket kell alkalmazni. Két kiemelt küszöb:
- Autonóm AI kutatás és fejlesztés: ha egy modell önállóan képes összetett, emberi szakértelmet igénylő AI-kutatási feladatok elvégzésére, ami kiszámíthatatlanul felgyorsíthatja az AI-fejlődést, akkor magasabb biztonsági követelményeket írnak elő (potenciálisan ASL-4 vagy ennél magasabb).
- CBRN (vegyi, biológiai, radiológiai, nukleáris) fegyverekkel kapcsolatos segítségnyújtás: ha egy modell képes lényeges mértékben segíteni egy alapvető technikai háttérrel rendelkező személyt CBRN-eszközök létrehozásában vagy telepítésében, akkor megerősített biztonsági és telepítési korlátozások szükségesek (ASL-3).
-
Kötelező védőintézkedések (Required Safeguards): az ASL Standards (AI Safety Level Standards) rendszere határozza meg, mely védelmi szintek szükségesek a küszöbök elérésekor. Jelenleg minden Anthropic-modell ASL-2 szinten működik, ami a jelenlegi iparági gyakorlatnak felel meg.
Mit jelent az ASL-3 és ASL-4 a gyakorlatban?
ASL-3 szabványok a szigorúbb biztonsági intézkedéseket és a telepítési kontrollokat foglalják magukban: belső hozzáférés-vezérlés, a modell súlyainak erősebb védelme, valamint többrétegű telepítési védelem — például valós idejű és aszinkron monitorozás, gyors reagálási protokollok és részletes előtelepítési red teaming. Az autónom kutatási képességek elérése esetén további, ASL-4-nek megfelelő vagy annál szigorúbb biztonsági követelmények is felmerülhetnek.
Értékelés, dokumentáció és felügyelet
A frissített RSP két, egymást kiegészítő értékelési folyamatot ír elő:
- Képességértékelések: rendszeres vizsgálatok a meghatározott képességküszöbökhez képest, hogy eldöntsék, szükséges-e a védelem erősítése. Anthropic szerint korábbi értékelések összefoglalói elérhetők.
- Védőintézkedés-értékelések: a biztonsági és telepítési intézkedések hatékonyságának rendszeres ellenőrzése, hogy megállapítsák, teljesült-e a szükséges védelmi szint. Az ezekről szóló döntések összefoglalói szintén publikálhatók lesznek.
A folyamatok dokumentálása a biztonsági esetekhez hasonló módszertanból merít — cél a szisztematikus, nyomon követhető döntéshozatal. A belső kocka-tesztelés (stress-testing) és az eddigi belső jelentési csatornák kiegészítik az értékelési módszertant. Emellett Anthropic külső szakértői visszajelzéseket is gyűjt a módszertanokról.
Tapasztalatok és tanulságok az első év végrehajtásából
A 2023 szeptemberében közzétett eredeti RSP tapasztalatai alapján Anthropic egy évnyi implementáció után felülvizsgálta a keretrendszert. A belső vizsgálat során kisebb eljárási hiányosságokat azonosítottak — például néhány értékelés három napos késése vagy bizonytalanság abban, hogyan kell rögzíteni a helyettesítő értékelések változásait. Ezek a problémák a cég szerint minimális kockázatot jelentettek a modellbiztonságra nézve; a késés időt biztosított az értékelések finomítására, és az aktualizált módszertan továbbra is távolinak mutatta a küszöböktől.
Ezekből a tapasztalatokból két fontos következtetést vontak le: szükség van nagyobb rugalmasságra a politikában és jobb folyamatokra a megfelelés nyomon követéséhez.
Szervezeti változások és jövőbeli lépések
A vállalat bejelentette, hogy Jared Kaplan, társalapító és Chief Science Officer lesz Anthropic Responsible Scaling Officer-e, átvéve ezt a szerepet Sam McCandlish-től, aki a RSP kezdeti bevezetését felügyelte és továbbra is a Chief Technology Officer szerepére koncentrál. Emellett megnyitják a Head of Responsible Scaling pozíciót, amely a különböző csapatok koordinálásáért lesz felelős annak érdekében, hogy az RSP-t ismételten implementálják és betartsák.
Anthropic toborzást is folytat olyan területekre, amelyek mostantól aktívan részt vesznek a kockázatkezelésben az RSP-n keresztül, többek között:
- Frontier Red Team (fenyegetésmodellezés és képességértékelések)
- Trust & Safety (telepítési védelmi intézkedések kidolgozása)
- Security and Compliance (biztonsági intézkedések és kockázatkezelés)
- Alignment Science (ASL-3+ biztonsági intézkedések kidolgozása, ferde működésre fókuszáló képességértékelések és belső stresszteszt-program)
- RSP Team (politika kidolgozása, biztosítás és kereszt-vállalati végrehajtás)
A politika szerepe a szélesebb munkában
Anthropic hangsúlyozza, hogy az RSP a katasztrofális kockázatokra fókuszál, de nem helyettesíti a termékhasználati szabályokat: a Usage Policy továbbra is tiltja a modelljeik felhasználását dezinformáció terjesztésére, erőszak vagy gyűlöletkeltés ösztönzésére, illetve csalárd vagy bántalmazó gyakorlatokra. Ezen túl a cég folyamatosan fejleszti technikai intézkedéseit a trust & safety követelmények érvényesítésére, és kutatja modelljeinek társadalmi hatásait.
Az Anthropic reménye szerint a frissített RSP gyakorlati tapasztalatokon alapuló példát nyújt majd más szervezetek számára, és elősegíti a legjobb gyakorlatok kialakulását az AI ökoszisztémában.
Hol olvasható az új RSP?
A frissített politika és kiegészítő információk elérhetők az Anthropic weboldalán az anthropic.com/rsp és anthropic.com/rsp-updates címen. Anthropic köszönetét fejezte ki a sok külső csoportnak, amelyek értékes visszajelzést adtak a politika kidolgozásához.
