- október 15-én Anthropic közölte, hogy a múlt hónapban tett vállalását — miszerint erősíti a független, harmadik fél által végzett értékeléseket — továbblépteti: egy nonprofit értékelő szervezet, a METR csapatának "alkalmazotti jellegű" hozzáférést adtak belső rendszereikhez.
A bejelentés szerint a METR közzé fogja tenni a kockázatértékelései eredményeit. Az elmúlt évben Anthropic és a METR több alkalommal dolgozott együtt a cég Kockázati Jelentéseinek (Risk Reports) felülvizsgálatán. Emellett Anthropic együttműködik a SecureBio és az Accenture cégekkel, és korai tárgyalásokat folytat többek között a Hugging Face-szel; a Faculty neve is megjelenik a partneri tervek között.
Miért tartanak független értékelőket fontosnak?
Anthropic szerint a frontier (élvonalbeli) modellek növekvő képességei miatt erősebb védőintézkedésekre és alaposabb kockázatértékelésre van szükség. A vállalat nyilvános elszámoltathatóságra törekszik, ugyanakkor nem minden bizalmas vagy potenciálisan rosszindulatú felhasználásra alkalmas információ hozható nyilvánosságra (például számítási vagy betanítási adatok). Ennek helyett harmadik fél értékelőknek biztosítanak mélyebb hozzáférést, hogy ezek a csapatok bizonyítékokat és indokolt következtetéseket osszanak meg a modellek fejlesztésével kapcsolatos kockázatokról.
Az Anthropic szerint egy értékelőnek a következő feltételeknek kell megfelelnie a frontier modellek értékeléséhez:
- Szakértelem a modellek képességeinek és a tesztelési módszerek hibáinak (például alignment faking) értékelésében;
- Függetlenség: az értékelőnek nem szabad részvényesnek lennie az értékelt cégnél, illetve pénzügyi vagy működési függőség nem megengedett;
- Elégséges hozzáférés a kockázatok érdemi vizsgálatához, ideértve a betanítási folyamatokra és a védelmi mechanizmusokra vonatkozó információkat;
- Szabadság a megfigyelések és értékelések publikálására.
A vállalat analógiaként a bankfelügyelet és a belső vizsgálók gyakorlatát említi: bankoknál a felügyelők helyszíni vizsgálói hasonló logikával dolgoznak, hogy a kockázatokat előre láthatóvá tegyék.
Mit jelent az "alkalmazotti jellegű" hozzáférés?
Anthropic hat METR alkalmazottat üzemeltetett be: ezek a munkatársak vállalati hardvert, irodai helyet és belső eszközökhöz, rendszerekhez való hozzáférést kaptak, amelyek nagyjából az Anthropic saját kockázatértékelő csapatainak jogosultságaival összevethetők. Bizonyos szűk, előre meghatározott kategóriák — például ügyféladatok, ügyvéd-ügyfél titoktartás alá eső anyagok vagy a modellek architektúrájára vonatkozó információk — kivételt jelentenek; ezek megosztása korlátozott.
Anthropic arra bátorítja dolgozóit, hogy a METR-hez olyan információkat osszanak meg, mintha egy belső kollégával dolgoznának a modellek alignment kockázatán. Ugyanakkor a publikációs jogokról és a visszatartásról világos szabályok vannak: a METR közzéteheti a kockázatszintre, incidenekre vagy gyakorlatokra vonatkozó elemzését. Anthropic nem akadályozhatja meg teljesen a publikálást, de kérheti egyes, előre definiált kategóriákba tartozó információk kivágását (redaction). A METR viszont szabadon közölheti a kivágott részek tényét és azt is, hogy véleménye szerint indokolt volt-e a kivágás, anélkül, hogy maga a kivágott tartalom nyilvánosságra kerülne.
A METR-rel kötött együttműködés korlátozott, csak egy kis csapatra terjed ki, és végrehajtható megállapodások szabályozzák. Egyéb METR-alkalmazottak el vannak szeparálva ettől a munkától, ideértve azokat a kutatókat is, akik más projektekben dolgoznak együtt Anthropic-kal. A beágyazott értékelés célja, hogy néhány, megfelelően jogosult személy Anthropic biztonsági normái szerint alapos rálátást kapjon a működésre — nem az, hogy széleskörű hozzáférést biztosítson más szervezeteknek vagy ügyfelek adataihoz.
Más értékelőkkel fennálló partnerségek és a háromszintű hozzáférési modell
Anthropic több további partnerrel dolgozik; ezek a kapcsolatok még korai fázisban vannak, ezért jelenleg szűkebb körű információt és korlátozottabb publikációs jogokat kapnak. A cél az, hogy megbizonyosodjanak arról, partnereik védik a bizalmas információkat és rendelkeznek a szükséges erőforrásokkal és szakértelemmel.
A cég három hozzáférési szintet dolgoz ki értékelők számára, és hosszabb távon azt remélik, hogy több értékelő is eléri a harmadik, legmagasabb szintet, amelyek mindegyike saját elemzését tenné közzé a vállalat kockázatkezelési helyzetéről és kulcsfontosságú döntéseiről:
- Első szint: szűk körű kockázati vizsgálatok; Anthropic dönt arról, milyen hozzáférést kap az értékelő; az eredmények publikálása Anthropic jóváhagyásához kötött.
- Második szint: szélesebb hozzáférés és lehetőség a publikálásra jóváhagyás nélkül; Anthropic még mindig kérheti bizonyos kategóriák eltávolítását, de az értékelő közölheti, hogy szerinte helyénvaló volt-e a kivágás.
- Harmadik szint: azzal az elrendezéssel egyezik meg, amelyet METR esetében alkalmaznak: alkalmazotti jellegű hozzáférés és a második szinthez hasonló publikációs jogok.
SecureBio jelenleg az első szinten van, és éppen átvizsgálja az Anthropic augusztusi Kockázati Jelentésének (chemical and biological weapons) fejezetét; korábban pilot felülvizsgálatot végzett és publikált egy korábbi jelentésről. Az Accenture és a Faculty felé egy ambiciózus partnerség irányába haladnak, amely a modellek értékelését, red‑teaminget, alignment vizsgálatokat, védelmi intézkedések tesztelését és szervezetek közti képességépítést tartalmazza.
Anthropic azt hangsúlyozza, hogy az értékelők beágyazása önkéntes, és úgy vélik, minden frontier AI vállalatnak hasonló lépéseket kellene tennie.
Megjegyzés a szivárgások és az architektúra-információk kockázatáról
A cég megjegyzése szerint, hasonlóan a banki felügyeletnél alkalmazott óvatossághoz, figyelembe veszik a véletlen információszivárgás lehetőségét: különösen a modellek architektúrájára vonatkozó adatok jelentenek magas kockázatot a szivárgás szempontjából, és ezek általában alacsony relevanciájúak a kockázatértékeléshez. Ha azonban ezek az adatok különösen relevánsak, Anthropic általában megosztja azokat, de az ilyen megosztás explicit belső jóváhagyást igényel.
Anthropic ígéri, hogy a folyamat során további frissítéseket fog közzétenni, miközben több értékelővel párhuzamosan halad és tanul a partnerségi formák hatékonyságáról.
Forrás: Anthropic bejelentés, 2026. október 15.
