Harminc európai parlamenti képviselő hat frakcióból levélben fordult Henna Virkkunenhez, az Európai Bizottság ügyvezető alelnökéhez, és azt kérte, hogy az Európai Unió vizsgálja felül kiberbiztonsági szabályrendszerét az olyan mesterséges intelligencia-alapú hackereszközök kezelése érdekében, mint az Anthropic Mythos nevű modellje. A kezdeményezésre a Politico hívta fel a figyelmet.
Mi történt és miért aggasztó
Az Anthropic még tavasszal jelentette be, hogy a Mythos a legtöbb embernél hatékonyabban képes szoftveres sérülékenységeket azonosítani és kihasználni. A vállalat a modellt nem tette kereskedelmi forgalomba; helyette hozzáférést biztosított első körben tizenkét amerikai technológiai óriásnak – köztük az Apple, a Microsoft és az Amazon –, majd további negyven, meg nem nevezett szervezetnek. Ugyanakkor az Anthropic folyamatosan egyeztet az amerikai kormánnyal.
A képviselők aggodalma részben abból ered, hogy az európai hatóságok mindehhez alig jutottak információhoz. A Politico április közepe táján nyolc nemzeti ügynökséget keresett meg; közülük egyedül a német Szövetségi Információbiztonsági Hivatal (BSI) jelezte, hogy tárgyalásokat folytat az Anthropic-kal, ám ők maguk sem tudták a modellt tesztelni.
Ezzel ellentétben az Egyesült Királyságban a Mesterséges Intelligencia Biztonsági Intézet (AI Safety Institute) már vizsgálatot végzett a Mythoson, és az ottani eredmények alapján megtette a szükséges intézkedéseket.
A képviselők követelései
A levélben a képviselők azt kérik, hogy az EU kiberbiztonsági ügynöksége, az ENISA kapjon hozzáférést a Mythoshoz és hasonló modellekhez a kockázatok alapos feltárása céljából. Emellett azt javasolják, hogy reformálják a kibernetikai sérülékenységek feltárására és javítására vonatkozó szabályokat, és erősítsék meg a kritikus infrastruktúrák védelmét.
A küldemény aláírói között szerepel Markéta Gregorová, az EU kiberbiztonsági rendelet (Cybersecurity Act) felülvizsgálatának előadója, valamint Bart Groothuis holland liberális képviselő, aki azt nyilatkozta: „Európa nincs ott az asztalnál.”
Anthropic és az európai meghallgatás
Az Európai Parlament belső piaci bizottsága nyilvános meghallgatásra hívta meg az Anthropicot, de a cég visszautasította a szereplést a meghívás rövid határidejére hivatkozva.
A képviselők a szükséges lépésekhez az EU kiberbiztonsági rendeletének éppen zajló felülvizsgálatát kívánják felhasználni.
Szakértői és nemzetbiztonsági aggályok
Claudia Plattner, a BSI vezetője április közepén arra hívta fel a figyelmet, hogy kérdéses, vajon az ilyen „rendkívüli erejű” eszközök a jövőben szabadon elérhetővé válnak-e, mert egy ilyen döntés beláthatatlan nemzetbiztonsági és szuverenitási következményekkel járna. A Montreali Egyetem kutatója és a mesterséges intelligencia egyik korai alakja, Yoshua Bengio a Politicónak nyilatkozva „rendkívül aggasztónak” nevezte, hogy a kockázatok kezelésének módjáról a szabályozó hatóságok helyett a technológiai vállalatok döntenek.
Laura Caroli, az uniós AI-rendelet kidolgozásának volt egyik kulcsfigurája rámutatott: az EU azért maradt háttérben részben azért, mert a modell nem került kereskedelmi forgalomba; ha kereskedelmi termék lett volna, az Anthropicra kötelező szabályok vonatkoznának az AI-rendelet és a kiberreziliencia-rendelet (Cyber Resilience Act) alapján. Caroli továbbá felvetette a gondolatot arról is, hogy más szereplők – például egy kínai cég – esetén milyen következményekkel járna a jelenlegi helyzet.
Miért számít ez?
Az ügy rávilágít arra a hiányosságra, hogy jelenleg nincs globális mechanizmus a legfejlettebb AI-modellek kockázatainak ellenőrzésére, így a döntések és a hozzáférés szabályozása gyakran magáncégek kezében marad. A képviselők és az érintett uniós tisztviselők szerint ez sürgős európai választ és szabályozási kiigazítást igényel annak érdekében, hogy a jövőben az EU képes legyen időben és hatékonyan felmérni és kezelni a hasonló technológiai kockázatokat.
