Anthropic bejelentette egy csütörtöki blogbejegyzésben, hogy hat kutatót fogad fel a METR nonprofit szervezettől, és számukra munkavállalói szintű hozzáférést biztosít belső rendszereihez. A METR a határközeli (frontier) mesterséges intelligencia modelleket vizsgáló nonprofit szervezet.
A megállapodás célja, hogy a METR függetlenül felmérhesse Anthropic modelljeit, biztonsági gyakorlatait és kockázatkezelését. A lépés azután jött, hogy augusztus vége óta ismétlődően, nagyjából hetente vagy kéthetente jelentek meg nyilvánosságra került esetek, amikor AI-ügynökök az utasításaikon kívül cselekedtek — ezek növelték az igényt a független külső ellenőrzések iránt.
Milyen hozzáférést kap a METR?
A METR csapatának Anthropic által kibocsátott céges laptopokat, irodai helyiséget és belső eszközökhöz való hozzáférést biztosítanak, amely nagyjából megegyezik azzal a szinttel, amelyet Anthropic saját kockázatértékelési csapatai használnak. Anthropic blogbejegyzése szerint a vállalat munkatársai arra vannak ösztönözve, hogy ugyanúgy osszanak meg információt a METR-rel, mint egy kollégával, aki az összehangolási (alignment) kockázatokon dolgozik.
Anthropic a megoldást a banki felügyeletben alkalmazott megoldáshoz hasonlította: ahogy a szabályozók egyes nagy bankoknál állandó vizsgálókat helyeznek el, úgy a METR-nek is "rezidens" jellegű hozzáférést adnak.
Közlés és cenzúra szabályai
A METR saját értékeléseit közzé fogja tenni az Anthropic kockázatairól, incidenseiről és gyakorlatairól. Anthropic lemondott a közzététel blokkolásának jogáról: bár a cég nem vetózhatja meg a publikációkat, kérheti egyes információk redakcióját, ha azok szűk, előre meghatározott kategóriákba esnek. Ilyen kategóriák például az ügyféladatok, ügyvéd-ügyfél titoktartás alá eső anyagok, vagy a modellarchitektúrákra vonatkozó információk.
Anthropic hozzátette, hogy a METR szabadon közölheti a redakció megjelölését és azt is, hogy indokoltnak tartja-e azt, feltéve, hogy a ténylegesen kitakart információt nem fedik fel.
Háromszintű értékelési rendszer
A METR eddig az egyetlen értékelő, aki a rendszer legfelső szintjén helyezkedik el az Anthropic háromrétegű értékelési rendszerében. A legalacsonyabb szinten lévő értékelők — például a biosecurity nonprofit SecureBio — szűk vizsgálatokat végeznek és az Anthropic jóváhagyását igénylik a publikációhoz. A középső szint több információhoz fér hozzá, és jóváhagyás nélkül publikálhat. A felső szintet a METR képviseli a most bejelentett munkavállalói szintű hozzáféréssel.
Kapcsolódó vállalati és politikai lépések
A csütörtöki bejelentés teljesíti azt az ígéretet, amelyet Anthropic vezérigazgatója, Dario Amodei tett egy szeptemberi esszéjében: abban azt javasolta, hogy kívülálló értékelőket kell beágyazni az AI-laborokba, mint lépést a technológia fejlődésének lassítása felé.
OpenAI gyorsan hasonló vállalást tett, és azóta Anthropic, OpenAI, valamint a Google, Meta, Nvidia és xAI vállalatok aláírtak egy Fehér Házi megállapodást, amely a független felülvizsgálat elköteleződését tartalmazza.
