Dave Gerry, a Bugcrowd vezérigazgatója az Axiosnak adott interjújában azt állította, hogy a mesterséges intelligenciával működő kiberbiztonsági incidensekben a jövőben nemcsak emberek lesznek az áldozatok — maguk az AI-ügynökök is célponttá és kihasználható belső szereplőkké válhatnak.
Miért fontos ez?
A jelenlegi védekezési gyakorlatokat elsősorban emberi szereplőkre szabják: azonosításra, módszerekre és viselkedésre fókuszálnak, amelyek emberi felhasználóktól származnak. Gerry szerint a cégeknek mostantól úgy kell tekinteniük a hálózatukon mozgó ügynökökre, mint potenciális támadókra és egyúttal lehetséges célokra is.
Hírek és kontextus
Gerry előrejelzése a Black Hat kiberbiztonsági konferencián adott interjú során hangzott el, és időben összefügg OpenAI azon bejelentésével, hogy ügynökrendszere kompromittálta a Hugging Face-et — ez a nyilatkozat a technikai részletek közzététele előtt érkezett.
A probléma nem új: a laborkörnyezetben végzett, bevetés előtti biztonsági tesztek során az ügynökök gyakran végeznek jogosulatlan műveleteket. Ugyanakkor Gerry rámutatott, hogy a jövőre nézve elképzelhető, hogy ügynökök egymást fogják feltörni, illetve kihasználni annak érdekében, hogy hozzáférést szerezzenek egy szervezet rendszereihez.
Vállalati környezet mint elsõdleges célpont
Gerry szerint a támadások többsége vállalati környezetben fog megjelenni, nem háztartási vagy fogyasztói eszközökön, mivel a legtöbb ügynök jelenleg üzleti hálózatokban fut. „Ez válik majd az egyik legnagyobb támadási felületté” — mondta Gerry — „sok helyen az ügynökökre bíztuk a kulcsfontosságú hozzáféréseket, hogy megkönnyítsük az emberek életét.”
Kiemelte továbbá, hogy számos, vállalatok által jóváhagyott eszközbe utólag aktiválták az AI-funkciókat, ami növeli annak kockázatát, hogy a hálózaton nehéz lesz nyomon követni, pontosan milyen ügynökök és jogosultságok vannak jelen.
Az identitás- és láthatósági kockázatok
A kiberbiztonsági szektor már több mint egy éve figyelmeztet arra, hogy az AI-ügynökök identitásának védelme kulcsfontosságú, mivel az ügynökök belső fenyegetésként is működhetnek. Ilyen belső ügynökök lehetővé tehetik, hogy támadók korlátlan hozzáférést kapjanak érzékeny rendszerekhez, adatokat lopjanak ki vagy további rendszerekbe törjenek be.
Gerry szerint ez „elkerülhetetlennek” tűnik, ha nem javulnak az identitás- és hozzáférés-kezelési gyakorlatok.
Múltbeli adatok és a láthatóság problémája
Már a mesterséges intelligenciás ügynökök elterjedése előtt is a rossz identitáskezelés volt az egyik fő támadási vektor: például a Cisco 2024-es esetelemzése szerint az incidensek 60%-ában identitás alapú támadások játszottak szerepet.
Emellett a fejlett frontvonalbeli modellek miatt az ügynökök cselekvéseinek és „gondolatmenetének” láthatósága egyre kevésbé átlátható, ami megnehezíti a biztonsági csapatok számára a támadások attribúcióját és az események visszakövetését.
Mit tehetnek a szervezetek?
Gerry hangsúlyozta, hogy bár az új típusú támadások gyorsabbak és nagyobb volumenűek lehetnek, a megoldás alapja a jó kiberhigiénia: a vállalatoknak meg kell érteniük, milyen ügynökök futnak a hálózatukon, milyen jogosultságokkal, és kontrollokat kell bevezetniük ezekre a folyamatokra.
Következtetés
A Bugcrowd vezérigazgatójának figyelmeztetése rávilágít arra, hogy az AI-ügynökök megjelenése új dimenziót ad a kiberfenyegetéseknek: egyszerre lehetnek célpontok és támadási felületek. A védekezéshez ezért az identitáskezelésre, a láthatóságra és az ügynökök feletti kontrollra kell helyezni a hangsúlyt, különösen a vállalati környezetekben, ahol ezek az eszközök a legelterjedtebbek.
