A Google biztonsági kutatói szerint a nagyméretű nyelvi modellek (LLM-ek) megjelenése és fejlődése új, ipari méretekre skálázható kiberfenyegetéseket hozhat. A cég jelentése szerint egy esetben bűnözők LLM-et használtak egy korábban ismeretlen sérülékenység feltárására, amely lehetővé tette számukra egy széles körben használt webes adminisztrációs eszköz átvételét. A sebezhetőség felfedezése és a jelentés szerint tett lépések megakadályozták, hogy a technikát nagyobb volumenen alkalmazzák.
Milyen veszélyeket sorol fel a Google-jelentés?
A Google-csapat több konkrét mechanizmust ír le, amelyek révén a LLM-ek gyorsítják és könnyebbé teszik a kiberhadviselést:
-
Morphing (mutáló) malware: a modellek képesek olyan kártékony programok előállítására, amelyek rejtőzködés céljából minden másoláskor vagy fertőzéskor átalakítják saját dekódoló rutinjaikat, parancsokat cserélnek más, ugyanazt eredményező utasításokra, illetve nem működő alprogramokat adnak hozzá. Ezek a technikák megnehezítik az antivírusok általi észlelést miközben a rosszindulatú tevékenység — adatlopás, hátsó ajtók telepítése vagy fájlok titkosítása — változatlan marad.
-
Logikai hibák azonosítása: a hagyományos biztonsági eszközök gyakran ismert mintákra vagy véletlenszerű tesztelésre támaszkodnak; ezzel szemben a LLM-ek képesek megérteni, hogy a kód mit hivatott tenni, és ezen alapuló következtetések révén logikai hibákat találni. Ezek a sebezhetőségek gyakran rejtve maradnak a szokásos automatizált vizsgálatok elől, és emberi szakértői felülvizsgálat szükséges a felfedésükhöz.
-
Elrejtőző (obfuscation) hálózatok: rosszindulatú szereplők gyakran hoznak létre összehangolt, ad hoc útvonalakat — routerek, szerverek és speciális eszközök láncolatát — hogy elrejtsék támadásuk forrását. AI-alapú eszközök képesek olyan közvetítő kompromittált szerverek sorozatát irányítani, amely elkerüli a megszokott védelmi mintákat és megnehezíti a források felderítését.
-
Az AI-infrastruktúra mint célpont: az AI-ökoszisztéma komponensei — modellek, kiegészítő szoftverek és infrastruktúra — egyre vonzóbb belépési ponttá válnak a támadók számára. Egy ilyen komponens kompromittálása lehetővé teheti további behatolást a vállalati hálózatokba, adatlopást, zsarolóprogramok telepítését vagy működésmegtorpedózást.
Kapcsolódó esetek és vizsgálatok
A Google-jelentés összhangban van más kutatásokkal és bejelentésekkel. Anthropic a Claude Mythos Preview modellről figyelmeztetett, hogy az képes korábban ismeretlen sérülékenységek feltárására. A Calif nevű kiberbiztonsági cég ezzel a modellel olyan sebezhetőséget használt ki az Apple rendszerében, amelyet ők jeleztek az Apple-nek; az Apple javításon dolgozik.
A United Kingdom-backed AI Security Institute (AISI) jelentése szerint a Claude Mythos Preview és az OpenAI GPT-5.5 modellek megbízhatóan végre tudtak hajtani olyan támadásokat, amelyek emberi elkövetők számára körülbelül három órát vennének igénybe — ez lényeges emelkedés a korábbi, egy órás becsléshez képest. Emlékeztetőül: Claude Opus 4.6 bemutatásakor képes volt olyan támadásokat végrehajtani, amelyek embereknek 30 percet igényelnének. Az AISI tesztjeiben a modelleket 2,5 millió kimeneti tokenre korlátozták; amikor több tokent engedélyeztek, a modellek képesek voltak olyan támadásokat végrehajtani, amelyek emberi támadóknak hosszabb időt jelentenének.
Miért fontos ez?
A Google megállapításai arra utalnak, hogy tágul az a szakadék, amely a LLM-ek sebezhetőségek feltárására való képessége és a megszokott biztonsági módszerek között fennáll. Ha a következő generációs modellek gyorsabban találják meg és kihasználják a hibákat, mint ahogy a védelmi csapatok be tudják zárni azokat, az automatizált, nagy volumenű támadások reális veszéllyé válhatnak. Ez a helyzet növelheti a szabályozói figyelmet, és bonyolíthatja a kereskedelmi és kormányzati döntéseket, hiszen az AI egyszerre védekező és támadó eszköz, valamint maga is célpont.
Szakértői megfontolások
A jelentés szerzői és más szakértők, akik dolgoztak a Claude Mythos Preview-rel, megerősítik, hogy a modell előrelépést jelent mind a támadási, mind a védekezési képességek terén. A mostani javításokra optimista a forgatókönyv: remélhetőleg a bevezetett foltozások erősebbé teszik a hálózatokat, és a tanulságok segítik a biztonságosabb AI-kibocsátásokat. Ugyanakkor a szoftverfejlesztőknek több erőforrást kell fordítaniuk proaktív védekező kutatásokra, hogy a sebezhetőségeket még a rosszindulatú szereplők előtt fedezzék fel.
Összegzés
A Google jelentése szerint a nagy nyelvi modellek alkalmazása új módszereket biztosít a sebezhetőségek feltárására és kihasználására, amely ipari méretekre skálázható támadásokhoz vezethet. A tanulmány rávilágít néhány konkrét technikára — mutáló malware, logikai hibák megtalálása, elrejtőző hálózatok és az AI-infrastruktúra célba vétele — és összekapcsolja ezeket más friss megfigyelésekkel, például a Claude Mythos Preview és a GPT-5.5 tesztjeivel. A következő lépés a sebezhetőségek gyorsabb és proaktívabb feltárása és a hatékonyabb védekezés kialakítása lesz.
