A Palo Alto Networks biztonsági csapata, Unit 42, közlése szerint az elmúlt nyáron egy emberi támadó hatékonyan alkalmazott élvonalbeli mesterséges intelligencia-ügynököket egy európai informatikai és szoftvercég elleni betörés felgyorsítására: a kompromittálás kevesebb mint 10 óra alatt megtörtént, miközben hasonló, emberi kéz által vezetett támadások tipikusan körülbelül két hetet vesznek igénybe. A cég segített kivédeni egy zsarolási kísérletet, és nyilvánosságra hozta a taktikák lépéseit, noha sok részletet — például az érintett vállalat nevét, az elkövető személyazonosságát és a konkrét AI-modelleket — nem tártak fel.
Hogyan zajlott a támadás
- Előkészítés / külső felderítés: A támadás a nyár folyamán indult, amikor a (humán) elkövető egy AI-ügynököt indított be külső felderítésre. Az ügynök nagy léptékű internetes pásztázást végzett, hogy bejutási pontokat találjon a célvállalat hálózatába.
- Behatolás: A skannelés egy publikus API-végpontban talált gyenge pontot — olyan „ajtót”, amelyet a vállalat a nyílt internetre tett ki külső rendszerek kommunikációja céljából. Unit 42 vezetője, Andy Piazza szerint az ilyen automatikus felderítést az AI gyorsan és hatékonyan végzi, mert az internetre kötött eszközöket folyamatosan pásztázzák.
- Belső felderítés: Miután bejutott, az ügynök belső feltérképezést végzett, és azonosította a hálózaton futó rendszereket és szoftvereket. Ebben az esetben a célpontok közé a vállalat kódolási folyamata és a kód-repozitóriumok kerültek.
- Hitelesítési adatok kinyerése: Al-ügynökök átvizsgálták a kód-repozitóriumokat, és kinyerték azokat a hitelesítő adatokat — jelszavakat és tokeneket — amelyeket fejlesztők közvetlenül a kódban hagytak. Piazza rámutatott, hogy sok vállalat nincs elég körültekintő a bejelentkezési adatok zárolásában, pedig ez "sok buta rosszaságot" megállítana az interneten.
- Lateralitás és élősködés a rendszeren belül ("living off the land"): A megszerzett belépők segítségével a támadó bejutott a vállalat szoftverépítési és telepítési rendszerébe, majd megszerezte a felhőfiókokhoz tartozó kulcsokat. Ezzel lehetővé vált, hogy a támadók a célpont saját AI-eszközeit és infrastruktúráját használják a műveletek végrehajtásához, megnehezítve a detektálást.
Következmények és védekezés
A támadó végül váltságdíjat követelt, ám Andy Piazza elmondása szerint a védelmi csapat időben azonosította a támadást és megakadályozta a teljes sikerét. Az ügynök azonban így is hátrahagyott egy körülbelül 80 oldalas, technikai jellegű jelentést a cég sebezhetőségeiről.
Miért számít ez?
- Gyorsulás, nem új módszer: A történet jól illusztrálja, hogy az AI önmagában nem feltétlenül talál ki teljesen új támadási technikákat; inkább drasztikusan megnöveli a meglévők sebességét és skáláját. Piazza megfogalmazása szerint a rosszindulatú, ügynökalapú támadás "nagyon hasonlít" a jóindulatú AI-használatra: parancsokat adnak, visszakapnak eredményeket, majd emberi döntéshozatal következik.
- Láthatóság hiánya: Sok kérdés megválaszolatlan marad — például hogy pontosan mely AI-modelleket vetették be, vagy hogy hol és hogyan jutottak hozzá az AI-számítási kapacitáshoz —, de az eset arra figyelmeztet, hogy ahogy az AI-hoz való hozzáférés és az AI-rendszerek által látott érzékeny adatok terjednek, úgy nő a kockázata annak, hogy a rossz szereplők „AI compute”-hoz jutnak.
Összegzés
A Palo Alto Networks Unit 42 esete rávilágít arra, hogy az AI képes felgyorsítani a kibertámadásokat: a teljes kompromittálás most kevesebb mint 10 órát vett igénybe egy olyan támadás során, amely emberi vezetés mellett zajlott, és amely tipikusan hetekig tartana. Az incidens hangsúlyozza a publikus API-k, a kódba írt hitelesítési adatok és a gyenge hozzáférés-kezelés elleni védelem fontosságát, valamint azt, hogy a szervezeteknek mielőbb szigorítaniuk kell jogosultságaik és titkosításaik védelmét.
