Anthropic bejelentése szerint 2025. január 13-án hitelesített ISO/IEC 42001:2023 tanúsítványt szerzett AI-menedzsment rendszere számára. Az ISO/IEC 42001 az első nemzetközi szabvány, amely az AI-irányítás követelményeit határozza meg, és célja, hogy elősegítse a rendszerek felelős fejlesztését és használatát.
Mit igazol a tanúsítvány
A cég szerint az akkreditált tanúsítvány független megerősítést nyújt arról, hogy Anthropic átfogó keretrendszert vezetett be az AI-vel kapcsolatos kockázatok azonosítására, értékelésére és csökkentésére. A bejelentés kiemeli a tanúsítvány fő elemeit:
- politikák és folyamatok annak biztosítására, hogy az AI-rendszerek etikus, biztonságos és elszámoltatható módon legyenek tervezve, fejlesztve és telepítve;
- szigorú tesztelés és monitorozás annak ellenőrzésére, hogy a rendszerek a tervek szerint működnek, és a lehetséges negatív hatásokat előre kezelik;
- átláthatósági intézkedések a felhasználók és a érintettek megfelelő tájékoztatására;
- meghatározott szerepek, felelősségek és felügyeleti mechanizmusok a felelős gyakorlat fenntartására.
A tanúsítványt a Schellman Compliance, LLC állította ki, amelyet az ANSI National Accreditation Board akkreditált.
Kapcsolódó intézkedések és keretrendszerek
Anthropic hangsúlyozza, hogy az ISO 42001 tanúsítvány meglévő munkáira épít. A cég említette a nyilvános Responsible Scaling Policy irányelv kiadását és frissítését, a Constitutional AI alkalmazását a modellek emberi értékekhez való igazításának segítésére, valamint folyamatos kutatási tevékenységét az AI-biztonság és a robusztusság terén.
Ezen felül Anthropic további önkéntes vállalásokat is tett, amelyek kockázatfelmérést és kockázatcsökkentést, biztonsági és adatvédelmi intézkedéseket, valamint a közönség tájékoztatását célozzák.
Miért számít ez
A tanúsítvány — amelyről a vállalat azt közölte, hogy az egyik első „frontier AI labok” közé sorolja őket, akik megszerezték — független megerősítést ad az AI-fejlesztés biztonsági és irányítási gyakorlatairól. Anthropic szerint az ISO 42001 mérföldkő abban a folyamatban, amely során a rendszerek egyre nagyobb teljesítménye mellett a biztonság és a védelem kulcsfontosságú tényező marad.
A cég további információkat és magát a kiadott tanúsítványt közzétette a Trust Center nevű oldalán, ahol áttekintés található a szabványról, annak tartalmáról és arról, hogyan erősíti meg Anthropic elkötelezettségét a felelős AI-fejlesztés iránt.
