Az Egyesült Államok kibervédelmi ügynöksége, a Cybersecurity and Infrastructure Security Agency (CISA) az Anthropic által fejlesztett Mythos nevű mesterségesintelligencia-modellt használja a kormányzati szoftverek és kódtárak átvilágítására – közölték három, az ügyet jól ismerő forrásokkal. A CISA célja az olyan hibák feltárása, amelyek külföldi kémszervezetek vagy kiberbűnözők számára kihasználható támadási felületet nyithatnak.
A vizsgálatokat a CISA támadásifelület-értékelő csoportja (attack-surface assessment team) végzi, amely a kormányon belül digitális biztonsági felméréseket és szimulált támadásokat hajt végre. Két forrás szerint az átvilágítás már több sebezhetőséget tárt fel, a részleteket azonban nem közölték: nem ismert, hogy pontosan hány kódfájlt vizsgáltak át, illetve a talált hibák milyen jellegűek és mennyire súlyosak.
Sem az Anthropic, sem a CISA nem reagált a megkeresésekre.
Kormányzati viszonyok és korábbi feszültségek
Az Anthropic és az amerikai kormány kapcsolata az elmúlt időszakban feszült volt. A cég tavaly februárban megtagadta bizonyos biztonsági korlátozások eltávolítását, amelyek megakadályozták volna, hogy a modelljeit autonóm fegyverekben vagy belső megfigyelésre használják. Ennek nyomán a Pentagon a vállalatot „ellátásilánc-kockázatot jelentő” minősítéssel látta el – olyan megjelöléssel, amelyet korábban elsősorban kémkedéssel gyanúsított külföldi vállalatokra alkalmaztak.
A vállalat feketelistára helyezését egy bíró márciusban felfüggesztette, a feszültség pedig mérséklődött miután a Mythos zárt körű változata megjelent; ez a zárt verzióról szóló beszámolók szerint hatékonynak bizonyult a biztonsági rések felkutatásában és kihasználásában. A források szerint az amerikai Nemzetbiztonsági Ügynökség (National Security Agency, NSA) a feketelistázás ellenére áprilisban már használta a Mythost: elemzőik a modellt biztonságos, zárt környezetben tesztelték, és ígéretesnek találták a képességeit.
Amikor az Anthropic nyilvánosságra hozta a Mythos Fable néven forgalmazott, kiberbiztonsági korlátozásokkal ellátott publikus változatot, a Fehér Ház egyik ponton azt kérte, hogy a külföldi felhasználók számára tiltsák meg a hozzáférést. Ez a lépés globális leállításhoz vezetett; a globális korlátozást a források szerint csak a múlt héten oldották fel.
Miért számít ez?
A CISA által alkalmazott AI-eszközök bevetése újabb jel arra, hogy a szövetségi ügynökségek hajlandók harmadik féltől származó, fejlett nyelvi modelleket használni a kiberbiztonság erősítésére, még akkor is, ha a beszállító és a kormány viszonya korábban feszült volt. Ugyanakkor a nyilvánosság számára rendelkezésre álló információk hiánya – a talált sebezhetőségek pontos száma, típusa és súlyossága – korlátozza annak megértését, mekkora kockázatot sikerült csökkenteni.
A Reuters által közölt információk alapján a vizsgálat folytatódik, a CISA és az Anthropic válaszára várnak a megkeresők.
