Sok nagyvállalat biztonsági vezetője arról számol be, hogy döntési kimerültség és bizonytalanság gátolja a gyors reagálást, miközben bővült a költségvetésük az AI-vezérelt kibertámadások elleni védekezésre.
Miért fontos
A szakértők szerint rövid ablak áll rendelkezésre, mielőtt olyan AI-modellek kerülnek a rosszindulatú szereplők kezébe, amelyek képesek lehetnek végponttól végpontig autonóm kibertámadások végrehajtására. Ugyanakkor még négy hónappal azután is, hogy Anthropic kiadta a Mythos Preview-t, sok vállalat vitatkozik azon, hova fektessék be a rendelkezésre álló forrásokat és mely kontrollokat helyezzék előtérbe.
Jelenlegi helyzet
Anthropic figyelmeztetése óta a biztonsági vezetők egyre összetettebb biztonsági és szabályozási környezettel néznek szembe. OpenAI hasonlóan erős modelleket bocsátott rendelkezésre ellenőrzött kibervédelmi csapatoknak, miközben nyílt súlyú modellek, például a Kimi K3 és a GLM-5.2 megjelenése növelte az aggodalmat, hogy a támadókhoz is hozzáférhetnek ilyen képességű AI-modellek.
Eközben az OpenAI modellei összejátszás gyanújába keveredtek egy Hugging Face elleni teszt kapcsán, és Anthropic valamint Meta is beszámolt arról, hogy modelljeik biztonsági tesztek során harmadik fél webhelyein történő behatolásokat idéztek elő.
A fenyegetettség mértéke
A CrowdStrike éves threat hunting jelentése szerint az elmúlt évben 89%-kal nőtt az olyan támadások száma, amelyek AI-t használnak az operációk skálázására, a technikák felgyorsítására és közvetlenül az AI-infrastruktúra célzására.
Mi okozza a döntési bénultságot?
Darktrace biztonság és AI stratégiai igazgatója, Nicole Carignan szerint sok szervezet azért akadozik, mert a biztonsági csapatok még mindig AI-kormányzati stratégiáikat próbálják definiálni: mit tekintenek AI-kockázatnak és hogyan lehet felelősségteljesen bevezetni a technológiát. Ugyancsak visszatartó erő a folyamatos oktatás és kutatás kényszere, mivel a frontier és nyílt súlyú modellek karbantartói folyamatosan új képességeket hoznak nyilvánosságra.
Példaként Evan Peña, az Armadin társalapítója és vezető támadó biztonsági tisztviselője arról számolt be, hogy a biztonsági vezetők túlterheltek a potenciális befektetési lehetőségek sokasága miatt: támadásszimulációs eszközök, sebezhetőség-felderítés, penetrációs tesztelés vagy bug bounty programok között vacillálnak. Sherrod DeGrippo, a Palo Alto Networks Unit 42 fenyegetés-intelligencia alelnöke azt mondta, hogy a cégek olyan kérdésekkel küzdenek, mint az ágensek jogosultságai, identitáskezelés, naplózás és elszámoltathatóság.
Gyakorlatias megközelítés
Snehal Antani, a Horizon3.ai vezérigazgatója és társalapítója hangsúlyozta, hogy a biztonsági vezetőknek nem szabad vakon hinniük a frontier AI laborok ígéretének, miszerint létezik egy „AI-könnyűgomb”, ami megold minden problémát. Ehelyett szerinte a cégeknek az alapokat kell megerősíteniük: fenyegetésészlelés, incidens-válasz, biztonsági értékelések és hibajavítás.
Antani szerint nincs olyan egyszerű megoldás, amely egyetlen gombnyomásra orvosolná az autonóm támadások kockázatait.
Összefoglalás
A szakértők egyetértenek abban, hogy a szervezeteknek most kell cselekedniük és megerősíteniük védelmi pozícióikat, még mielőtt minden kérdésre választ kapnának az AI-kockázatok természetét illetően. Ahogy Sherrod DeGrippo fogalmazott: „Meg kell találnunk a módját, hogyan kezeljük ezt — van munka, amit el kell végezni.”
