A mesterséges intelligencia (AI) vállalati alkalmazása jelentős üzleti értéket hozhat, ugyanakkor új információbiztonsági és adatvédelmi kockázatokat is felvet. Sok magyar szervezet rendelkezik AI-stratégiával, de a gyakorlat azt mutatja, hogy a legkomolyabb veszélyek gyakran csak a technológia tényleges használata során, az üzembe helyezés után válnak láthatóvá. Az Atos nemzetközi és hazai tapasztalatai alapján bemutat egy ötszintű érettségi modellt, amely végigvezeti a szervezeteket azon biztonsági kihívásokon és kontrollokon, amelyek szükségesek az AI-biztonság felépítéséhez.
1. Ad Hoc szint
Az érettség legalacsonyabb foka az ad hoc AI-használat, amikor különböző területeken már feltűnnek AI-alapú eszközök és szolgáltatások, de ezek nincsenek integrálva a vállalati folyamatokba. Az elszigetelt megoldások gyakran nem csatlakoznak a központi monitorozási, naplózási vagy jogosultságkezelési rendszerekhez, és sokszor egymással sem kommunikálnak. A munkatársak saját kezdeményezésre, ellenőrizetlen módon alkalmazhatnak AI-eszközöket — ez a jelenség a "Shadow AI" kialakulásához vezet.
A szervezetnek korlátozott rálátása van az adatok mozgására, feldolgozására és az AI által generált eredmények felhasználására. Tipikus hiányosságok az identitás- és hozzáféréskezelés, a naplózás, a monitorozás és az adatvédelmi kontrollok hiánya. A Shadow AI teljes megszüntetése ritkán lehetséges, mert a munkavállalók személyes eszközökön vagy ingyenes szolgáltatásokon keresztül könnyen megkerülhetik a vállalati szabályokat.
Ennél a szinten az elsődleges cél a láthatóság növelése és egy biztonságot ösztönző szervezeti kultúra kialakítása, amely szabályozott keretek között serkenti az AI használatát. Az AI-használat dokumentálása és az ad hoc működés mielőbbi felszámolása kulcsfontosságú.
Sándor Dénes, az Atos Magyarország AI-szakértője szerint: „Ezen a szinten számos hazai kis- és középvállalkozás próbálkozik AI-rendszerek bevezetésével, azonban az eredmények gyakran elmaradnak a várakozásoktól, mert a megoldások nem illeszkednek megfelelően a meglévő rendszerekhez. Sok esetben a Shadow AI intézményesül, és amikor egy-egy felmérés során rákérdezünk arra, hogy egy adott AI-eszköz hogyan kezeli az összegyűjtött adatokat, gyakran már az adatgyűjtés ténye is meglepetést okoz.”
2. Discovery szint
A Discovery fázisban a szervezet tudatosan feltérképezi AI-környezetét: leltárt készít az alkalmazott AI-eszközökről és szolgáltatásokról, feltárja a kapcsolódásokat, függőségeket és adatáramlásokat. Az AI-rendszerek integrálódnak a vállalati monitorozási és telemetriai infrastruktúrába, így követhetővé válik, milyen erőforrásokat használnak, milyen rendszerekhez férnek hozzá, kik használják őket és milyen jogosultságokkal rendelkeznek.
Ebben a szakaszban kezdődnek meg a baseline-ok kialakítása, vagyis a normál működési minták rögzítése, amelyek alapot adnak későbbi anomáliadetektáláshoz. A biztonsági fókusz az integrációk védelmére, az API-hozzáférések kezelésére, a háttérrendszerek jogosultságkezelésére és az írási/módosítási jogok szabályozására helyeződik. A Discovery legfontosabb eredménye, hogy a szervezet már képes mérni és megérteni az AI működését, nem csupán használja azt.
3. Governance szint
A Governance szinten a szervezet rendelkezik AI-stratégiával, szabályozási keretrendszerrel és világosan definiált felelősségi körökkel. Megjelennek az AI-használatra vonatkozó szabályzatok, RACI-típusú szerepkörök és auditálható folyamatok, valamint konkrét hozzáférési, naplózási és monitorozási követelmények.
Sok szervezet ebben a fázisban érzi úgy, hogy elérte a kívánt biztonsági állapotot. A valóságban azonban AI-specifikus fenyegetések — például a prompt injection — ebben a környezetben válnak különösen relevánssá. A prompt injection során egy dokumentum, PDF vagy adatforrás rejtett utasításokat tartalmazhat, amelyeket a modell végrehajtandó instrukcióként értelmez, nem pusztán adatként. Ennek hatására az AI nem várt műveleteket végezhet.
A védekezés része a prompt hardening, az instrukciók és adatok elkülönítése, a tool-hívások korlátozása és kontrollja (tool gating), a kimenetek validálása, valamint emberi jóváhagyási pontok beépítése. Itt már a hangsúly az AI viselkedésének kontrollján van, nem csupán a használat szabályozásán.
A szakértő kiemeli: „Nem ritka, hogy egy legitimnek tűnő dokumentumba rejtett utasítás arra készteti az AI-ügynököt, hogy jogosultságain belül ugyan, de nem szándékolt módon adatokat kérjen le vagy módosításokat hajtson végre. Az ilyen esetek megelőzéséhez szigorú inputszétválasztásra, megfelelő tool-kontrollra és emberi jóváhagyási folyamatokra van szükség.”
4. Detection szint
A Detection szint elérésével a szervezet már elegendő historikus adattal és tapasztalattal rendelkezik ahhoz, hogy automatikusan felismerje a normálistól eltérő működéseket. A korábban kialakított baseline-ok alapján azonosíthatók a rendellenes használati minták, a szokatlan erőforrás-felhasználás, a gyanús AI-agent viselkedések, a prompt injection kísérletek és a jogosultsági anomáliák.
Ezen a szinten a puszta szabályozás nem elég: a működést folyamatosan figyelni, értelmezni és szükség esetén kezelni kell. A rosszindulatú vagy téves működés következményei komoly üzleti kockázatot jelentenek, beleértve adatszivárgást, reputációs károkat, túlzott erőforrás-használatot vagy kritikus üzleti folyamatok sérülését. A Detection fázis indokolttá teszi a proaktív észlelési és gyors reagálási képességek kiépítését.
5. Enforcement szint
Az érettség modell csúcsa az Enforcement fázis, ahol a szervezet nemcsak monitoroz és elemez, hanem képes dinamikusan beavatkozni és kikényszeríteni a biztonsági szabályok betartását. Központi szerepet kap az Intent-Based Access Control (IBAC), amely túlmutat a hagyományos szerepköralapú jogosultságkezelésen: nem elég azt vizsgálni, hogy egy entitás rendelkezik-e jogosultságokkal, azt is értékelni kell, hogy az adott művelet összhangban áll-e az aktuális üzleti célokkal és feladattal.
Az IBAC segítségével ellenőrizhető, hogy az AI valóban a kijelölt üzleti feladatot végzi-e, csak a szükséges adatokat használja, a szükséges eszközökön és jogosultságokkal működik-e, valamint hogy nem történik jogosulatlan hozzáférés vagy adatszivárgás. Az Enforcement célja, hogy a szervezet automatikusan megelőzze és megakadályozza a kockázatokat, ezáltal biztosítva az AI-biztonság legérettebb és legellenállóbb működési módját.
Hernádi József, az Atos Magyarország ügyvezető igazgatója hangsúlyozza: „Fontos hangsúlyozni, hogy az AI-biztonság nem egyetlen technológiai komponens kérdése. Nem elegendő egy AI-stratégia kidolgozása vagy néhány védelmi eszköz bevezetése. Az AI-security valójában egy több rétegen átívelő, rendszerszintű kockázati terület, amelyet csak a teljes informatikai, adatkezelési és irányítási környezet figyelembevételével lehet hatékonyan kezelni.”
Összegzés
Az Atos modellje rámutat, hogy az AI-biztonság fejlesztése lépcsőzetes folyamat: minden szint új láthatósági, kontroll- és észlelési követelményeket hoz. A cél a kezdeti ad hoc környezetből eljutni a dinamikus szabálykényszerítéssel működő, üzleti kontextust is figyelembe vevő operációig, ahol a kockázatok automatikus megelőzése és kezelése megvalósul.
