Heather Ceylan, a Box információbiztonsági vezetője (Chief Information Security Officer) szerint az identitás‑ és jogosultságkezelés továbbra is az alap, de önmagában nem képes megvédeni a vállalati környezetet az autonóm AI‑ügynökek okozta kockázatoktól. Míg a hagyományos hozzáférés‑vezérlések azt szabályozzák, mely erőforrásokhoz férhet hozzá egy szereplő, nem szabják meg, hogyan viselkedik az az ügynök, miután önállóan elkezd dolgozni. Az autonóm ügynök másodpercek alatt képes jogos hozzáféréseket nem kívánt műveletekké alakítani.
Mi a probléma a hagyományos jogosultságkezeléssel?
A hozzáférés‑vezérléseket emberekhez és emberi munkafolyamatokhoz tervezték: egy alkalmazott, akinek évek óta megvan egy régi mappa jogosultsága, ritkán kezdi el feltérképezni annak teljes tartalmát. Egy autonóm ügynök viszont minden engedélyét felderíti, nagy sebességgel felfedi az elfeledett konfigurációs hibákat és az elavult jogosultságokat, így azonosítva olyan útvonalakat az adathoz, amik emberi léptékkel szinte észrevétlenek maradnának. Emiatt a tiszta hozzáférési higiénia — a jogosultságok rendszeres felülvizsgálata és szűkítése — ma még értékesebb.
Az elmúlt hónapok eseményei is mutatják a kockázatot: modellek képesek kilépni a számukra szánt sandboxból, elérni rendszereket, amelyekhez nem voltak szabályozva, vagy olvasni olyan tartalmakat, amelyekhez nem kellett volna hozzáférniük. A közös vonás: az ügynök megtalálta az adatforrásig vezető elérési útvonalat, és kihasználta.
Dinamikus, feladatalapú jogosultságok és végrehajtás‑szabályozás
Különösen problémás, ha az ügynökök széles, állandó jogosultságokat kapnak, hogy illeszkedjenek összetett munkafolyamatokhoz. Egy ügynök például egy feladat során több tucat eszközt és több ezer fájlt érinthet a cég különböző osztályain. Ha ezekhez az erőforrásokhoz egyszerre adnak hozzáférést, egyetlen hiba nagy távolságra terjedő károkat okozhat. Heather Ceylan szerint erősebb modell az, amely a jogosultságokat csak arra a pillanatra és arra a lépésre adja meg, amikor és amire valóban szükség van: ha az ügynök egy adott lépésnél csak két eszközt használ, akkor csak azokra legyen jogosultsága.
A szabályozásnak el kell mozdulnia az „hozzáférés engedélyezésétől” a „végrehajtás ellenőrzéséhez”: nem csak azt kell vizsgálni, hogy egy ügynök hozzáfér-e egy pénzügyi mappához, hanem azt is, hogy az adott lépéshez szabad‑e neki például négyezer fájl áthelyezése egy új helyre. Egy emberi alkalmazott, akihez hozzáférés van, mégis útba hozhat katasztrofális viselkedést — minden hozzáférés átment az ellenőrzésen, de a művelet súlyos következményekkel járt.
A promptok önmagukban nem megbízhatóak a viselkedés korlátozására: utasítások változhatnak, beszúrt instrukciók befolyásolhatják az ügynököt, vagy olvasott fájlok terelhetik el a működést. Tartós kontrollokat kell a hívott eszközszintekbe és a hívott tartalomra helyezni: előre definiálni, mit hajthat végre egy ügynök, függetlenül a bejövő instrukcióktól.
A hagyományos tartalomplatformok korlátai
A vállalaton belül az ügynökök által érintett anyagok nagy része strukturálatlan tartalom: szerződések, szabályzatok, ügyféladatok — olyan fájlok, amelyek túlnyomó részét képezik a vállalati adatoknak. Sok ilyen adat hálózati meghajtókon, régi ECM‑platformokon és SaaS‑eszközökben áll, amelyeket emberek archiválási szokásaihoz terveztek. Ezek a rendszerek gyakran csak azt a kérdést teszik fel: „ennek a személynek van‑e jogosultsága?”, és válaszként mappaszinten adnak jogot, amelyet évek óta nem auditáltak.
A régi platformoknál hiányzik az a metaadat és osztályozás, amin egy ügynök ésszerű döntést hozhatna, és a naplóik sem elég részletesek ahhoz, hogy megmutassák, mit olvasott egy ügynök. Egy egyszerű AI‑csatlakozó hozzáadása a meglévő réteghez nem oldja meg a problémát: csak gépi sebességre gyorsítja a vakfoltokat.
"Minden ügynök‑művelet végső soron tartalomhoz vezet — ha a tartalmi réteg nem tudja megmondani, mit tartalmaz, kié az, és mi az, ami soha nem hagyhatja el, akkor nincs alap az ellenőrzések alatt." — Heather Ceylan
Mely műveletekhez kell emberi jóváhagyás?
A korai feltételezéssel ellentétben — miszerint a biztonság mindig emberi közbeavatkozást igényel — a Box tapasztalata szerint ma érdemes műveleteket három kockázati szintbe sorolni: teljesen autonóm, monitorozott és magas kockázatú, emberi jóváhagyást igénylő műveletek.
- Teljesen autonóm: csak olyan műveletek, amelyek visszafordíthatók, behatároltak, naplózottak és nem tartalmaznak megbízhatatlan bemenetet, illetve ahol egy hibának nem volna túl nagy ára.
- Monitorozott: olyan műveletek, amelyeket egy csapat már eléggé megbízhatónak tart, és megfelelő riasztással, visszagörgetési lehetőséggel párosítva képesek a problémát útközben észlelni és visszavonni.
- Visszafordíthatatlan, magas kockázatú: mindig emberhez kell irányítani, például amikor egy ügynök sok fájl törlését vagy egy elsődleges mappa kitörlését kéri.
Minden csapatnak saját kockázattűréséhez kell hangolnia ezeket a határokat. A Box megközelítése az, hogy a kontrollokat maga a platform érvényesítse a munkafolyamat helyett: osztályozás, címkézés és lejárat vezérelje a viselkedést anélkül, hogy minden műveletnél emberi ellenőrzést követelne.
"A megfelelő konfigurációt eleve érvényesíteni kell, ahelyett, hogy a művelet végén lenne blokkolva." — Heather Ceylan
Bizalom építése viselkedés alapú megfigyeléssel
Egy hozzáférési döntést egyszer meghozhatunk, de egy ügynök viselkedésébe vetett bizalmat idővel kell kiépíteni: figyelve, hogyan fut, hogyan működik együtt más ügynökökkel, és hogyan építi be mások eredményeit. A meglévő keretrendszerek gyakran elmaradnak a technológiától vagy túl elvontak ahhoz, hogy implementálhatók legyenek. A Box ezért néhány gyakorlati alapelvből dolgozik: szigorúan lefoglalt ügynökazonosságok és műveletek, világos elvárások a visszagörgethetőségről, három jóváhagyási szint, és gyors tesztelési‑iterációs lehetőség csapatoknak.
A megfigyelés hiányosságai is komoly gondot jelentenek: a hagyományos monitorozó eszközöket emberek viselkedéséhez kalibrálták, és az ügynökök viselkedése nem feltétlenül hasonlít az emberi aktivitásra. Ráadásul sok ügynök kezdetben kísérleti jellegű, így tevékenységük nem kerül be a naplózási infrastruktúrába. A fontos jelek gyakran nem egyedi cselekvések, hanem rendszerek közötti tevékenységláncok — például amikor az egyik ügynök kimenete egy másik bemenetévé válik —, és ezek detektálása még kialakulóban van.
Következtetés: láthatóság és végrehajtás‑szabályozás a tartalmi rétegen
Az autonóm ügynökök szabályozása ma már többrétegű megközelítést igényel: az identitás és a jogosultság marad az első védelem, de kiegészül azzal, hogy a jogosultságokat dinamizálják a feladatra, a végrehajtást kontrollálják az eszközhívások és a kezelt tartalom szintjén, valamint viselkedés alapján építik a bizalmat az idő múlásával. Kulcsfontosságú, hogy a láthatóság ne csak arra terjedjen ki, mit érhet el egy ügynök, hanem arra is, mit tesz valójában — és ez a láthatóság ott kell, hogy legyen, ahol a tartalom lakik.
Ez a cikk szponzorált tartalomként jelent meg.
