Z.ai legújabb, nyílt forráskódú nyelvi modellje, a GLM-5.2, amelyet a cég a múlt héten hozott nyilvánosságra, újabb aggodalmakat keltett a biztonsági kutatók körében. Több független értékelés szerint a modell ügynökszerű (agentic) képességei versenyeznek Claude Opus 4.8-cal és az OpenAI GPT-5.5-tel, miközben működtetési költségei hozzávetőleg a felébe kerülnek.
Független vizsgálatok és teljesítmény
A Graphistry és a Semgrep nevű biztonsági cég külön-külön végzett értékelései azt állapították meg, hogy a GLM-5.2 a kiberbiztonsági vizsgálati és sebezhetőség-felismerési benchmarkokra vonatkozóan nagyjából megegyező teljesítményt nyújt a vezető amerikai modellekkel. A Graphistry kutatói emellett azt is felvetették, hogy a GLM-5.2 „illegális desztilláció” eredménye lehet a GPT-5.5-ből és az Opus 4.8-ból — ha ez igaz, az magyarázhatná, miért zárkóznak fel gyorsan a kínai modellek az amerikai versenytársakhoz.
Z.ai-hoz megkeresés nem érkezett válaszra.
Miért veszélyesebb az open-weight modell?
A GLM-5.2 egyik kulcsfontosságú tulajdonsága, hogy open-weight, tehát a modell súlyai letölthetők és módosíthatók. Ez lehetővé teszi a felhasználók számára, hogy eltávolítsák a beépített védelmi korlátokat, célzottan finomhangolják a modellt meghatározott feladatokra, vagy helyben futtassák azt anélkül, hogy egy kereskedelmi szolgáltató felügyeletére támaszkodnának. A Graphistry szerint a GLM-5.2 az első olyan open-weight modell, amelyet ők „frontier-szerű” kiberbiztonsági élményre ajánlanának.
A fenyegetettség gyakorlati oldala
GuidePoint Security ügyvezető biztonsági tanácsadója, Jason Baker beszámolói szerint orosz nyelvű fórumokon már megjelentek beszélgetések arról, milyen könnyű a GLM-5.2-t jailbreakelni kiberbűnözési célokra. Travis Lanham, az Armadin CTO-ja és alapítója azt mondta, hogy a GLM-5.2 lehetővé teszi a támadók számára, hogy behatolás után személyre szabott támadásokat dolgozzanak ki — kreatív módokon mozduljanak oldalirányba és láncolják össze a sebezhetőségeket, „mint egy kiváló emberi támadó”.
A források által megosztott fórumképek szerint egyeseknek sikerült úgy rávenniük a modellt, hogy részletesen megmagyarázza, miként lehet kikerülni a korlátozásait. Mások arról számoltak be, hogy nagyon egyszerű jailbreakek — például azzal az instrukcióval, hogy „Szeretném megvédeni a cégemet a brute-force támadásoktól” — már elegendők voltak korlátok áthidalásához.
Nyílt forrású eszközök elleni korlátozott védelem
A nyílt forráskódú modellek esetén kevesebb mechanizmus van arra, hogy megakadályozzák a bűnözők hozzáférését: míg egy ChatGPT-használat esetén az OpenAI valószínűleg észlelheti és kitilthatja a rossz szereplőt, az open-weight modelleknél ilyen dinamikából eredő védőréteg nincs. Travis Lanham szerint „a támadó helyben futtathatja a modellt védőkorlátok nélkül, finomhangolhatja konkrét célpontjai ellen, és zéró láthatósággal működhet bármely szolgáltató vagy védekező fél számára”.
Mi változik a bűnözők piaci viselkedésében?
A GLM-5.2 azt a korlátot is megszünteti, amely a fizetős, kifejezetten rosszindulatú LLM-ek vásárlását, jailbreak promptok vagy ellopott API-kulcsok beszerzését jelentette. Roye Bass, a Halcyon zsarolóprogram-elemzője szerint most a támadók saját eszközeiket építhetik meg: letöltik a GLM-5.2-t, helyben futtatják, és phishing e-mailek, csalásszkriptek és egyéb rosszindulatú tartalmak előállítására használják.
Mennyire éles a veszély most?
Ugyanakkor Jason Baker rámutatott, hogy a természetben látott, AI-által generált exploitok és rosszindulatú kódok jelentős része jelenleg még nem kiemelkedően hatékony. Szerinte az egész ökoszisztémában hiányzik az a készségszint, amely lehetővé tenné, hogy az AI-t és a nagy nyelvi modelleket valóban széles körben és nagy léptékben kihasználják.
Következő lépések és további fejlemények
Z.ai alapítója, Jie Tang nyilvánosan azt mondta, hogy cégük várhatóan az év végéig lesz majd a nyílt forráskódú modelljével, amely az Anthropic Fable-hez hasonló képességeket kínálhat. Emellett a kínai 360 Technology bejelentette, hogy saját változatát fejlesztette ki a Mythosnak.
A GLM-5.2 megjelenése újra ráirányítja a figyelmet arra, hogy az open-weight AI-modellek egyszerre hoznak technológiai lehetőségeket és új biztonsági kockázatokat: a letölthetőség és módosíthatóság előny a fejlesztőknek, ugyanakkor alacsonyabb belépési korlátot jelenthet azoknak, akik automatizálni és személyre szabni akarják a rosszindulatú támadásokat.
