Több mint 50 egyetemi és ipari szakember részvételével a Google Contextual Agent Privacy and Security (CAPS) Workshopon, New Yorkban, 2025 végén készült el a "Open and Emergent Problems in Agentic Privacy and Security: A Contextual Angle" című műhelyjelentés. A dokumentum átfogóan feltárja az autonóm ügynököket érintő alapvető adatvédelmi és biztonsági kihívásokat, és rendszerszintű, modell-, felhasználó- és ökoszisztéma-szintű védelmi megoldások koordinált kialakítására hív fel.
Miért különböznek az ügynökök a hagyományos szoftvertől?
A jelentés szerint az ügynökalapú (agentic) mesterséges intelligencia lényege az, hogy hasznos működéséhez gyakran személyes adatokhoz kell férnie, és következményes műveleteket kell végrehajtania sokféle kontextusban. Ez a kombináció új megközelítést igényel a hagyományos determinisztikus szoftverekhez képest. A munkacsoport három kulcsdimenziót emel ki, amelyek nehezítik a védelmi megoldásokat:
- Unstructured interfaces and input ambiguity: Az ügynökök természetes nyelvű és képi utasításokat dolgoznak fel, ami megnehezíti az „elvárt viselkedés” formális megfogalmazását és sebezhetővé teszi őket olyan támadásokkal szemben, mint a prompt injection.
- Probabilistic control flows: A generatív tervezés véletlenszerű, valószínűségi végrehajtási útvonalakat hoz létre, amelyeket a hagyományos tesztelési módszerek nehezen fednek le.
- Autonomy and delegation: Az ügynökök hosszabb feladatokat kezelnek és al-feladatokat delegálnak más ügynököknek, ami csökkenti a felhasználói kontroll hatékonyságát és növeli a „megerősítési fáradtság” kockázatát.
A kontextuális nézőpont – Contextual Integrity
A jelentés központi állítása, hogy a bizalomra épülő ügynököknek képesnek kell lenniük a társadalmi normák és a cselekedetek megfelelőségének kontextusfüggő értelmezésére. A szerzők a Contextual Integrity (CI) elméletére támaszkodnak: a magánéletet nem pusztán titoktartásként vagy vezérlésként határozza meg, hanem „megfelelő információáramlásként” az elfogadott társadalmi normák szerint.
A CI keretében egy kontextus-specifikus információs norma három elemből áll:
- aktorok (ki küld és ki fogad információt, és kire vonatkozik),
- információtípusok (pl. egészségügyi vagy pénzügyi adatok),
- továbbítási elvek (például bizalmas kezelés vagy kölcsönösség).
A riport tovább általánosítja a CI-t az információmegosztásról a kontextuális biztonságra: vagyis az ügynökök cselekedeteinek megfelelőségére. Ennek megfelelően azt javasolja, hogy a rendszereknek képesnek kell lenniük eldönteni, egy adott cselekedet társadalmilag és kontextuálisan megfelelő-e, még mielőtt az végrehajtásra kerülne.
A Contextual Integrity operacionalizálása
A szerzők szerint az LLM-ek megjelenése először teszi lehetővé a géppel olvasható, valóban kontextusfüggő szabályok létrehozását. Korábban nagy volt az eltérés a magas szintű normák és az alacsony szintű rendszerengedélyek között: például „védje az adataimat, miközben megszervezi az utazásomat” csak konkrét utasításokkal válik kivitelezhetővé (milyen adatok megoszthatók a repülőjegyfoglaláshoz, vízumkérelmekhez, szervezőkkel való kommunikációhoz stb.).
A jelentés érvelése szerint a kézi engedélyezés és a szakértők által írt szabályok nem skálázhatók olyan jövőben, ahol ügynökök autonóm módon hajtanak végre összetett, hosszú feladatokat. Ha a nyelvi modellek képesek megérteni a CI-t, akkor azzal áthidalható a szakadék. Ennek részeként a munkacsoport egy kontextuális policy engine beépítését javasolja egy felügyeleti rétegbe, amely valós időben generálhat dinamikus szabályokat a felhasználói kérésekhez és a változó kontextusokhoz igazítva. Ez a mechanizmus lehetővé tenné egy kért adatokra vonatkozó adatáramlás megfelelőségének értékelését még azelőtt, hogy az információ elhagyná a felhasználó munkaterületét.
Többrétegű megközelítés az ügynökalapú adatvédelem és biztonság érdekében
A jelentés részletezi azokat a területeket, ahol innovációra van szükség a teljes veremben:
- System-level sandboxing: Végrehajtási környezetben további korlátok alkalmazása az ügynökök hibáinak hatásának csökkentésére, az ügynöki identitás kezelése, valamint a kontextusváltozás szerinti engedélyezés és visszavonás dinamikus bevezetése.
- Model-level reasoning: Modellek fejlesztése, hogy képesek legyenek tisztázni a hiányosan megadott felhasználói kéréseket és kontextusfüggően megítélni a cselekvések megfelelőségét, például az adatok megosztását.
- User-centric controls: A hagyományos „Notice and Choice” keret korlátai miatt a jelentés a dinamikus, kontextuális és személyre szabott vezérlők irányába mozdulást javasolja, amelyek jobban illeszkednek a felhasználók mentális modelljeihez.
- Multi-agent interactions: Olyan garanciák kidolgozása, amelyek megakadályozzák az ügynökök közötti összejátszást és a kontextuális normák megsértését, amikor több ügynök együtt dolgozik egy feladaton.
- Ecosystem governance: Governance-mechanizmusok kidolgozása a kontextuális normák gyűjtésére és megosztására, a normák közötti ütközések feloldására, változások tárgyalására és megfelelés ellenőrzésére.
Dinamikus mérés és új biztonsági értékelések
A jelentés új, az autonóm, többügynökös rendszerekre jobban alkalmazható biztonsági értékelési megközelítések kidolgozását javasolja. Külön kiemeli a szabványosított, többügynökös benchmarkok szükségességét — dinamikus „Agent Gym” környezeteket, ahol kutatók biztonságosan szimulálhatnak komplex, egymásra ható kölcsönhatásokat hosszabb időn keresztül. Ezek az nyílt forráskódú homokozók segítenének egy közös, robusztus adatvédelmi, biztonsági és biztonságossági alapszint kialakításában az akadémia és az ipar között.
Felhívás együttműködésre
A jelentés hangsúlyozza: ez az ambiciózus cél túl nagy egyetlen diszciplína, szervezet vagy ágazat számára. Új ötletekre és páratlan együttműködésre van szükség — a dokumentum alapvető lehetőségeket vázol fel és cselekvésre szólítja fel az akadémiai, kormányzati, civil és ipari szereplőket, hogy dolgozzanak ki kontextuális alapokat egy biztonságos, megbízható és adatvédelmet tisztelő ügynökalapú ökoszisztémahoz.
Köszönetnyilvánítás
A jelentés társszerzője Lillian Tsai, a műhely koordinációját és a jelentésírást Sarah de Haas végezte. Kassem Fawaz, Stefan Mellem, Helen Nissenbaum és Nina Taft részt vettek a koncepcionálásban és többrészes szekciók írásában. Szektorvezetőként közreműködtek Sebastian Benthall, Madiha Zahrah Choksi, Seliem El-Sayed, Ferdinando Fioretto, Adrià Gascón, Ashish Hooda, Ivan Petrov, Francesco Pinto, Octavian Suciu, Trishita Tiwari, Harold Triedman, Ren Yi és Wen Zhang. A munkában több mint 50 kutató, egyetemi partner és ipari vezető vett részt. A projekt támogatói között szerepelnek Daniel Ramage, Corinna Cortes, Yossi Matias, Pushmeet Kohli, Hank Levy, Raluca Ada Popa, Amanda Walker, Brendan McMahan és James Manyika.
A jelentés teljes technikai anyagát a szerzők elérhetővé tették az érdeklődők számára.
