Egy új startup, az Artificial Intelligence Underwriting Company (AIUC) azt ígéri, hogy harmadik félként auditálja és tanúsítja a vállalatoknál működő AI-ügynökök biztonsági viselkedését. A céget Rune Kvist és Rajiv Dattani alapította; Kvist korábban az Anthropicnál dolgozott, Dattani pedig a METR nevű AI-biztonsági kutatószervezet korábbi operatív igazgatója.
A vállalat célja, hogy a kiberbiztonságból ismert auditálási mintákat alkalmazza az ügynökök által hordozott speciális AI-kockázatokra. Az AIUC az általánosan használt SOC 2 szabványt használta inspirációként, és kifejlesztett egy AIUC-1 nevű szabványt, amelyhez tesztelési szolgáltatást is rendelt.
Finanszírozás és ügyfélkör
Az AIUC keddi bejelentése szerint a startup 40 millió dolláros Series A fordulót zárt, amelyet a Ribbit Capital vezetett, és amelyben részt vett a First Harmonic is. Korábban 15 millió dolláros seed körét zárta Nat Friedman NFDG alapja, az Emergence, a Terrain és Anthropic társalapítója, Ben Mann részvételével, így a teljes befektetés jelenleg 55 millió dollárra rúg.
A cég név szerint megemlíti ügyfelei között a Cursor, Lovable, Harvey és ElevenLabs vállalatokat.
Hogyan működik az auditálás?
Az AIUC körülbelül 250 biztonsági és kockázatkezelési vezető bevonásával állította össze az AIUC-1 szabvány követelményeit — ezek azok a vásárlók és döntéshozók, akik ügynököket rendelnek meg vállalati környezetekbe. A startup képviselői havi rendszerességgel kérdezik ezeket az érintetteket arról, mit várnának el egy ügynöktől, milyen kérdésekre szeretnének választ kapni, és milyen területeket kell lefedni a vizsgálatnak.
Az így kialakított kritériumok alapján az AIUC egy mintegy 5 000 tesztből álló tesztsorozaton futtatja végig az ügynököket. Ezek a vizsgálatok jailbreak-ekre, hallucination-ökre és adatvesztésre/szivárgásra vonatkozó forgatókönyveket modelleznek. A teszteredményekből a cég körülbelül 100 oldalas jelentést állít össze, amely részletesen bemutatja, hogy egy ügynök mely területeken teljesít biztonságosan és megbízhatóan, és hol vannak aggályok.
Érdekes részlet, hogy az AIUC maga is AI-ügynököket használ a tesztek futtatásához és az adatok elemzéséhez; a végső auditot azonban emberek ellenőrzik és hitelesítik.
Kapcsolódó iparági kontextus
A megközelítés hasonlít arra az ötletre, amelyet egyes szakértők és szervezetek már javasoltak: független, harmadik fél által végzett értékelés bevezetése az AI-fejlesztések és -telepítések mellett. Rajiv Dattani korábbi munkáltatója, a METR, amelynek Dattani 2024 és 2025 között volt operatív igazgatója és amelynek jelenleg is tagja a vezetőségének, már végez hasonló jellegű teszteléseket, bár eddig főként a teljesítményre koncentrált (például arra, hogy az ügynök megbízhatóan elvégzi-e a feladatokat).
Anthropic korábbi és/vagy vezető szakembereinek megnyilvánulásai — például Dario Amodei felvetése a fejlesztési ütem visszafogásáról és a harmadik fél által beágyazott értékelők lehetőségéről — tovább erősítik azt a piaci igényt, hogy független értékeléssel mérjék a fejlett AI-modellek viselkedését. AIUC megoldása ugyan nem vállalja, hogy a megrendelő rendszereibe beágyazódva figyeljen, de független, külső jelentést ad arról, hol lehet a rendszerben megbízhatósági vagy biztonsági kockázat.
Miért fontos ez?
Ahogy az AI modellek egyre intelligensebbé válnak, egyre többen mondják, hogy nem az a gond, hogy a modellek "nem elég okosak", hanem inkább az, hogy egyre nehezebb garantálni viselkedésüket vállalati követelmények mentén. Az AIUC üzleti modellje éppen ezt a hiányt próbálja betölteni: független bizonyítékot adni arról, hogy egy adott ügynök hol teljesít elvárhatóan és hol jelent potenciális kockázatot a vásárlók számára.
Az AIUC szolgáltatása és az általuk létrehozott AIUC-1 szabvány azon vállalatok számára lehet fontos, amelyek bankszektorban, egészségügyben, állami vagy védelmi alkalmazásokban AI-ügynököket kívánnak használni, és előzetesen szeretnék felmérni a lehetséges biztonsági és megfelelőségi kockázatokat.
