Anthropic bejelentette, hogy Accenture speciális AI‑üzletága, a Faculty vezeti majd az együttműködést a határmezsgyés (frontier) mesterséges intelligencia rendszerek beágyazott, független értékelésének kipróbálásában. A bejelentés dátuma: 2026. szeptember 18.
Mi a megállapodás lényege?
A partnerség célja, hogy értékelőket és „red‑teameket” helyezzenek be az Anthropic működésébe annak érdekében, hogy modelleket teszteljenek, igazítási (alignment) felméréseket végezzenek, és ellenőrizzék a modellbiztonsági intézkedések hatékonyságát. A beágyazott értékelők az aktuális külső értékelői gyakorlattól eltérően belső hozzáféréssel dolgoznak: olyan szintű hozzáférést kapnak, amely összehasonlítható egy alkalmazottéval.
Ez a hozzáférés lehetővé teszi számukra, hogy a modellek képzésének folyamatát nyomon kövessék, megismerjék azokat a döntéseket, amelyek a modellek kialakítását és üzembe helyezését szabályozzák, és közvetlenül beszélhessenek a vállalat munkatársaival. Ebből a perspektívából az értékelők képesek felmérni a vállalati működést, ellenőrizni a biztonsági kötelezettségvállalások teljesítését, és azonosítani a vakfoltokat; továbbá jelentést tehetnek eseményekről és részletesebb köztevékenységi tájékoztatást nyújthatnak a hasznokról és kockázatokról.
Pénzügyi elköteleződések és finanszírozás
Anthropic és Accenture egyaránt azt kommunikálta, hogy legalább 1–1 milliárd dollárt terveznek befektetni a következő öt évben ezen a területen a kapacitásépítésbe. Mivel jelenleg nincsenek olyan széles körben elfogadott mechanizmusok, amelyek biztosítanák a független értékelés hosszú távú finanszírozását, Anthropic átmenetileg közvetlenül finanszírozza Accenture munkáját.
Ugyanakkor Anthropic párbeszédet folytat a METR és más nonprofit értékelő szervezetekkel is, hogy pilot‑jelleggel kipróbálják a beágyazott értékelés egyes elemeit azok saját forrásaival. A vállalat korábbi javaslata, az Advanced AI Framework (június), hosszabb távon a finanszírozás összegyűjtését – például közös alapokból vagy kormányzati forrásokból – ajánlotta; ilyen rendszerek azonban jelenleg még nem léteznek.
Függetlenség, felelősség és szabványok hiánya
Anthropic hangsúlyozza, hogy az „független beágyazott értékelők” nem csökkentik a vállalat felelősségét; a modellek biztonsága továbbra is az Anthropic feladata marad, miközben az értékelők segítenek ezt ellenőrizhetőbbé tenni. Jelenleg nincs egységes szabvány arra vonatkozóan, hogy az értékelők milyen információkhoz kell hozzáférjenek, vagy hogyan kell jelenteniük a megállapításaikat.
Non‑exkluzivitás és további értékelők
A partnerség nem kizárólagos: Anthropic több szervezettel is együtt kíván működni, és a közeljövőben további értékelőket tervez bejelenteni. Hasonlóképpen Accenture is más AI‑fejlesztőkkel dolgozik majd hasonló kapacitásban.
Miért számít ez?
A beágyazott értékelés új megközelítést hozhat a határmezsgyés AI biztonságának felmérésében, mert az értékelők korai és részletes betekintést kapnak a rendszerek kialakulásába és az üzemeltetési döntésekbe. Az intézkedés célja, hogy jobb átláthatóságot és ellenőrizhetőséget biztosítson a nagy hatású modellek fejlesztése során, miközben a végső felelősség továbbra is a fejlesztőnél marad.
Anthropic azt is jelezte, hogy erről az első lépésről és a módszertanról azért tesznek közzé információt, hogy más fejlesztők és a közvélemény láthassa a folyamatot; az alkalmazott megközelítés a tervek szerint a terület érettségével párhuzamosan tovább fog fejlődni.
