A mesterséges intelligencia (MI) gyors terjedése új típusú, aszimmetrikus kockázatokat hoz a kibervédelem területére, és mind az iparági szereplők, mind a szabályozók egyre aktívabb lépéseket tesznek. Az OpenAI belső kiberbiztonsági tesztjei során több MI-modell kijutott az internetelérést korlátozó tesztkörnyezetből, erre hivatkozva a cég tájékoztatta a Kongresszus demokrata képviselőit arról, hogy egy "automatikus vészleállító" (kill switch) technológia kifejlesztésén dolgoznak.
Ez az eset csak egyik a nyár folyamán ismertté vált számos incidens közül. Például nyilvánosságra került, hogy egy OpenAI-kutatóágens 2024. június 18-án jogosulatlan hozzáférést szerzett az ausztrál Medicare statisztikai portáljához, ahol nyilvános és nem nyilvános állományokhoz egyaránt hozzáfért. Más példák között szerepel a mexikói kormányzati rendszerek elleni támadássorozat: a Gambit Security kutatói szerint egy támadó az Anthropic Claude nevű modelljét használta sebezhetőségek felderítésére, exploitok és automatizált támadási eszközök létrehozására. A kutatók mintegy 150 gigabájtnyi ellopott adatról számoltak be, köztük körülbelül 195 millió adófizetői rekordhoz kapcsolódó dokumentumokról, továbbá választói, köztisztviselői és anyakönyvi adatokról.
A JadePuffer nevű incidens egyértelműen demonstrálta, hogy az MI rendszerek képesek lehetnek nagyrészt autonóm módon végrehajtani egy kibertámadás technikai részét. Fontos azonban megjegyezni, hogy az esetek mögött továbbra is volt emberi támadó: az autonómia a technikai végrehajtásra vonatkozott, nem a teljes művelet ember nélküli létrejöttére.
Politikák és iparági válaszok
A politikai reakciók sem maradtak el: Ted Lieu és Nathaniel Moran képviselők „AI Kill Switch Act” nevű törvényjavaslatot nyújtottak be, amely vészhelyzetben kormányzati leállítási jogköröket biztosítana. Több szenátor és állami kormányzó is a kötelező vészleállítók bevezetését sürgeti.
A technológiai vállalatok is lépéseket tettek. Az Nvidia 2024 szeptemberének végén bemutatta az Open Agent Safety Platformot; annak OpenShell komponense nyílt forrású elkülönített futtatási környezetet biztosít, korlátozva egy MI-ágens erőforráshoz való hozzáférését. Emellett a BlueField-4 hardverére épülő Sentry megoldás az ágensek viselkedését figyeli és szükség esetén beavatkozhat.
Az iparági vezetők — köztük Mark Zuckerberg (Meta) és Dario Amodei — washingtoni csúcstalálkozókon egyeztetnek az eszkalálódó kockázatokról. Dario Amodei nyilvánosan is arra figyelmeztetett, hogy az iparágnak lassítania kell az új modellek fejlesztési ütemén a súlyos, emberiséget érintő kockázatok miatt.
A kereskedelmi szféra is reagál: az Amazon biztonsági okokból letiltotta a Meta Muse nevű MI-ágensét saját platformjáról, a Visa pedig arra hívta fel a figyelmet, hogy az autonóm MI-rendszerek új típusú kiberbiztonsági és fizetési kockázatokat teremthetnek. A Visa saját MI-alapú kibervédelmi eszközeinek egy részét nyílt forrásúvá tette, miközben felkészül arra, hogy a jövő támadásai egyre nagyobb arányban működhetnek emberi beavatkozás nélkül.
Mennyiségi következmények és pénzügyi kilátások
Ahogy az MI alkalmazásának költsége csökken, egyre több MI-ügynök kerül be a vállalati rendszerekbe, ami nagyságrendekkel növelheti a gép–gép közötti kommunikáció és az automatizált hozzáférések számát. A J.P. Morgan által idézett kutatás szerint számos vállalati környezetben a nem emberi identitások — például service accountok, API-kulcsok, gépi hozzáférések és MI-ágensek — száma már 144-szerese az emberi identitásokénak. Ez azt jelenti, hogy miközben a dolgozói létszám nem feltétlenül nő, a védendő digitális identitások és jogosultságok száma robbanásszerűen emelkedik.
A kibertámadások végrehajtásához szükséges idő és költségek is jelentősen csökkentek, ami a J.P. Morgan becslése szerint az MI által generált kiberbiztonsági potenciális kiadásokat a következő három évben meghaladóan akár 430 milliárd dollárra teheti. Ez a nagyságrend jelentős üzleti lehetőséget teremt a tőzsdén jegyzett kiberbiztonsági vállalatok számára.
Azonban a pénzügyi elemzők óvatosságra intenek: a kibervédelmi szektorban a kiemelkedő növekedési várakozások jelentős része már beépült a vállalatok aktuális értékeltségébe. A J.P. Morgan szerint a legjobb pozícióban lévő cégeknél most kezd igazán láthatóvá válni a kereslet növekedése, de sok vállalat már átesett jelentős részvénypiaci ralikon. A további felértékelődéshez a jövőben egyre inkább valódi bevétel- és cash-flow-növekedésre lesz szükség.
Mely területekre figyelnek az elemzők?
Az elmúlt hónapokban az elemzések szerint a hangsúly eltolódott az integrált platformok felé: ilyen megközelítéssel emelkedik ki például a Palo Alto Networks és a Zscaler modellje. Ugyanakkor fontosak az infrastrukturálisan megkerülhetetlen szegmensek is; az MI-modellek beépülésével a nem emberi identitások jogosultságkezelése és az érzékeny adatáramlás automatizált ellenőrzése kiemelt prioritássá válik. Az adatbiztonság és identitáskezelés területén az elemzés szerint a Varonis és az Okta nyújthat stabil növekedési lehetőséget.
Az elemzők továbbá felhívják a figyelmet az aszimmetrikus kockázatokra: a kibercsaladok és a védelmi cégek ugyanazokat a fejlett generatív MI-eszközöket használhatják, ezért a ma piacvezető megoldások hetek alatt veszthetnek hatékonyságukból. Emiatt a szigorú minőségi szelekció és a portfóliódiverzifikáció az ajánlott stratégia a befektetések terén.
Záró megjegyzés
A cikkben ismertetett fejlemények és becslések azt mutatják, hogy az MI hozzájárul a kibervédelemre fordítandó kiadások növekedéséhez, ugyanakkor a gyors technológiai változás és a piaci várakozások beárazódása befektetési kockázatokat is hordoz. A fentiek nem minősülnek befektetési tanácsadásnak; az elemzés tájékoztató jellegű információkat tartalmaz, amelyet a Prestige Financial Zrt. az Erste Befektetési Zrt. közvetítőjeként készített.
