- május 22-én Anthropic bejelentette, hogy Claude Opus 4 modelljét az AI Safety Level 3 (ASL‑3) telepítési és biztonsági szabványoknak megfelelő intézkedésekkel indítja el az Anthropic Responsible Scaling Policy (RSP) előírásai szerint. A döntést a cég óvintézkedésként és átmeneti lépésként hozta meg, amíg részletesebben felméri a modell CBRN‑nal (kémiai, biológiai, radiológiai és nukleáris) kapcsolatos képességeit.
Miért éppen ASL‑3 most?
Anthropic hangsúlyozza, hogy nem állapította meg véglegesen, hogy Claude Opus 4 elérte volna azokat a képességi küszöböket (Capabilities Thresholds), amelyek kötelezővé tennék az ASL‑3 védelmek alkalmazását; mindazonáltal a korábbi modellekhez képest most nem lehet egyértelműen kizárni az ASL‑3 kockázatait, ezért elővigyázatosságból alkalmazzák a magasabb szintű védelmi intézkedéseket. A cég továbbá közölte, hogy kizárta az ASL‑4 szükségességét Claude Opus 4 esetében, és azt is, hogy Claude Sonnet 4‑re nem vonatkozik az ASL‑3 követelmény.
A RSP elve szerint a modellek képességeinek növekedésével fokozott telepítési és biztonsági védelmek indokoltak. Eddig az Anthropic modelleket ASL‑2 szintű alapvédelemmel helyezték üzembe; az ASL‑2 középpontjában például az áll, hogy a modelleket megtanítják veszélyes CBRN‑kapcsolódó kérések visszautasítására, valamint opportunista súlylopási kísérletek elleni védelemre.
Telepítési intézkedések (Deployment)
Az ASL‑3 telepítési intézkedések célzottan a CBRN‑hez köthető visszaélések megelőzésére összpontosítanak, különös tekintettel az olyan kiterjesztett, end‑to‑end munkafolyamatokra, amelyeket a modell segítségével lehetne létrehozni vagy javítani. A cél nem minden kérdés elutasítása, hanem az, hogy megnehezítsék a modellel történő rendszerszintű visszaélést, például a „univerzális jailbreakek” sikerét.
A bevezetett háromrészes megközelítés:
- A rendszer jailbreakelésének megnehezítése: bevezették az úgynevezett Constitutional Classifiers rendszert, amely valós idejű osztályozókkal figyeli a bemeneteket és kimeneteket. Ezeket szintetikus adatokon képezték, amelyek veszélyes és ártalmatlan CBRN‑hez kapcsolódó promptokat és kimeneteket reprezentálnak. A preprodukciós tesztek szerint jelentősen csökkenthető a jailbreak sikeressége, miközben csak mérsékelt számítási többlet terheli az üzemet.
- Jailbreakek észlelése: szélesebb monitoringrendszert vezettek be, amely tartalmaz egy bug bounty programot is; ennek célja a Constitutional Classifiers, offline osztályozó rendszerek és a fenyegetés‑intelligencia‑partnerek stressztesztelése és a potenciális univerzális jailbreakek gyors azonosítása.
- Védelmek iteratív fejlesztése: ha jailbreaket találnak, szintetikus jailbreak‑minták előállításával és ezek felhasználásával újra lehet képezni az osztályozókat, és gyorsan javítani a rendszereken.
A dokumentum kiemeli, hogy ezek az intézkedések célzottan a CBRN‑kockázatra fókuszálnak, nem törekednek minden típusú jailbreak vagy általános információk (például egy egyszerű, nyilvános kémiai képlet) kivédésére — bár előfordulhatnak mellékhatások és hamis pozitív esetek.
Biztonsági intézkedések
A hangsúly a modell súlyainak (model weights) védelmére irányul: Anthropic szerint ezek a numerikus paraméterek alkotják a modell „intelligenciájának” lényegét, és ha kiszivárognak, a modellek telepítési védelmei kikerülhetők. A védelem több mint 100 különböző biztonsági kontrollt tartalmaz, amelyek megelőző és észlelő mechanizmusokat kombinálnak, különösen a kifinomult non‑state szereplők által jelentett fenyegetésekre fókuszálva.
Példák a bevezetett kontrollokra: kétfaktorú (két szereplős) jóváhagyás a model súlyaihoz való hozzáférésnél, kiterjesztett változáskezelési protokollok, valamint endpoint szoftvervezérlés (például bináris allowlisting). Ezek a gyakorlatok hasonlóak más magas biztonsági szintet követő szervezeteknél alkalmazott megoldásokhoz.
Megkülönböztetett kontrollként Anthropic bevezette a prelimináris egress sávszélesség‑korlátozásokat: ezek szabályozzák a modell súlyait tartalmazó biztonságos környezetből kifelé irányuló adatforgalom sebességét. Mivel a model súlyai nagyméretűek, a kifelé irányuló sávszélesség korlátozása lehetővé teszi, hogy a rendszer a nagy állományok kiszivárogtatásának idejét felhasználva észlelést és blokkolást hajtson végre. A cég reménye szerint hosszabb távon a rate limit annyira alacsony lesz, hogy a súlyok kicsempészése észlelés előtt lényegesen nehezebbé válik, még súlyos belső kompromittálás esetén is.
Anthropic további fejlesztéseket tervez az egress‑szabályozás, kifinomultabb insider‑fenyegetések elleni mitigációk és az általános biztonsági helyzet javítása terén.
Következtetések és további lépések
A vállalat elismeri, hogy a határmodellre alkalmazandó telepítési és biztonsági intézkedések kérdése távol van a végleges megoldástól. A gyakorlati tapasztalat az ASL‑3 alatt segíteni fog új kérdések és lehetőségek feltárásában, és Anthropic tervezi, hogy folyamatosan dolgozik az iparág szereplőivel, a Claude felhasználóival, kormányzati és civil szervezetekkel a módszerek fejlesztésén.
A cég közleménye és az ehhez kapcsolódó jelentés részletesebben ismerteti a bevezetett intézkedéseket és az érvvelést; Anthropic hangsúlyozza, hogy továbbra is értékelni fogja Claude Opus 4 CBRN‑kapacitásait, és ha megállapítja, hogy a modell nem lépte át a releváns képességi küszöböket, akkor a jelenlegi ASL‑3 védelmeket eltávolíthatja vagy módosíthatja.
