A Microsoft hétfőn új biztonsági funkciókat jelentett be, amelyek célja a vállalati környezeteket fenyegető AI-ügynökök elleni védelem megerősítése. A bejelentés egybeesik a vállalat rendszeres figyelmeztetéseivel, amelyek az AI-modellekből és az agentekből eredő kockázatokat hangsúlyozzák.
Guardian Agents és Project Perception
A legfontosabb újdonság a Guardian Agents nevű funkció, amelyet az AI-ügynökök vállalaton belüli megfigyelésére szánnak. A Guardian Agents a Project Perception termék része; ez a projekt júniusban debütált.
Project Perception eredetileg háromféle ügynökosztályt vezetett be: a „red team”-et, amely támadóként modellezte a hackereket; a „blue team”-et, amely észlelte a red team tevékenységét és feltérképezte a sebezhetőségeket; valamint egy „green team”-et, amely a hibák kijavításáért felelt. A projekt kezdetben annak a feltételezésnek megfelelően készült, hogy az AI-hackerek a szervezeten kívülről érkeznek.
Az insider-kockázat hangsúlyozása
Az elmúlt időszakban azonban Satya Nadella, a Microsoft vezérigazgatója azt hangsúlyozta, hogy az AI ellenségei lehetnek azok az ügynökök is, amelyeket maga a vállalat telepít és fizet — hasonlóan egy rosszindulatú vagy hibázó belső alkalmazotthoz, azaz egy „insider threat”-hez. Nadella a saját, privát blogján arra figyelmeztetett, hogy nem szabad vakon megbízni az AI-modell-szolgáltatók biztonsági biztosítékaiban; szerinte külön, a modelleket fejlesztő laboroktól független rendszerekre van szükség az ügynökök felügyeletére és irányítására.
Nadella szavai szerint: „Külön kell választanunk az intelligencia szállítását és az annak feletti hatáskört.”
A Microsoft álláspontja és konkrét lépések
Hayete Gallot, a Microsoft biztonsági üzletágának vezetője világosan fogalmazott: szerinte a korszakalkotó (frontier) modellek forrásuktól függetlenül nem bízhatók meg, nem elsősorban azért, mert rosszindulatúak vagy könnyen feltörhetők, hanem mert kiszámíthatatlanok — célorientáltan lettek betanítva, nem pedig a szervezeti normák és ítélőképesség követésére.
A Microsoft több konkrét technikai eszközt is bevezetett:
- Guardian Agents megfigyelő funkció a Project Perception keretében.
- Microsoft Defenderbe épített ügynökészlelési képesség, amely állításuk szerint akár 60 különböző típusú ügynököt képes felismerni, amelyeket dolgozók hozhatnak be a munkahelyre (például Claude Code, Codex és OpenClaw említetteként).
- Olyan vezérlők, amelyek korlátozzák az ügynökök hozzáférését adatokhoz és rendszerekhez, valamint dinamikusan módosítják az ügynök jogosultságait a feladat függvényében; ide tartozik az is, hogy emberi jóváhagyást kérnek, ha egy ügynök kockázatos döntéseket hoz.
Piaci és stratégiai összefüggések
A Microsoft megoldása egyszerre meglepő és saját üzleti érdekeit is szolgálja: a vállalat befektetett az OpenAI-ba és az Anthropicba, és az OpenAI egyben nagy felhőszolgáltatás-ügyfele is. Ugyanakkor a Microsoft azt javasolja, hogy a vállalatok a felügyeleti és biztonsági rendszereket a felhőszolgáltatótól vásárolják meg — így a szoftveres megfigyelés független lehet a modelleket szállító laboroktól.
A gondolat gyorsan terjed az iparágban: a Microsoft alapító tagja volt az Nvidia új Open Agent Safety Platform kezdeményezésének, amely több mint 100 technológiai cég támogatását nyerte el. Ez a platform elkülönített, biztonságos környezetekben izolálja az ügynököket, és hardveres szinten is képes figyelni vagy leállítani a viselkedést, hasonlóan egy „kill switch”-hez.
A Microsoft emellett bemutatta az új Surface Laptop Ultra típusokat, amelyeket kifejezetten ügynökök futtatására terveztek; ezek Nvidia chipekkel működnek és beépített ügynökbiztonsági vezérlőket tartalmaznak.
Miért számít ez?
A bejelentett eszközök és a Microsoft retorikája azt tükrözik, hogy a vállalatok számára új kihívást jelent: nem csupán a külső támadásoktól kell tartaniuk, hanem attól is, hogy az általuk telepített automatizált ügynökök kiszámíthatatlan vagy káros döntéseket hoznak. A Microsoft megközelítése a felügyelet és a felelősség szétválasztását javasolja, és termékfejlesztéssel igyekszik erre választ adni.
Összegzés
A Microsoft új funkciói — köztük a Guardian Agents és a Defender-be épített ügynökészlelés — azt a célt szolgálják, hogy az AI-ügynököket belső kockázatként kezelve figyeljék és korlátozzák működésüket. A lépés iparági trendet tükröz: több szereplő is dolgozik olyan megoldásokon, amelyek különválasztják az intelligencia szállítóját az azt felügyelő hatóságtól.
