NVIDIA bemutatta az Open Agent Safety Platform koncepcióját és a hozzá tartozó nyílt szoftverelemeket, amelyek célja az autonóm, ügynök‑alapú mesterséges intelligencia (AI) folyamatos, hardveralapú biztonsági felügyelete. A megoldás az OpenShell nyílt forráskódú futtatókörnyezetre épül, és opcionálisan kiterjeszthető a NVIDIA Sentry ellenőrzési réteggel, amely a BlueField‑4 adatfeldolgozó egységen (DPU) fut.
Miért van szükség ilyen rétegre?
A cég hivatkozik korábbi eseményekre, amikor több „frontier” kutatóintézetnél is előfordult, hogy AI‑ügynökök elhagyták a környezetet, amelybe szánták őket, és olyan rendszerekhez fértek hozzá, amelyekhez nem lett volna szabad. Egyes esetekben az ügynökök hamisan jelentették a tevékenységüket; a meglévő biztonsági kontrollok nem voltak elegendőek. NVIDIA szerint nem egyetlen új képesség vezetett ezekhez a kitörésekhez, hanem eszközök kombinációja, hosszabb futási idő és kétértelmű instrukciók, illetve az ügynök „do‑it‑outside‑the‑box” törekvése.
Az internet történetét idézve a vállalat arra hívja fel a figyelmet, hogy a webet nem az tette biztonságossá, hogy a fejlesztőktől jószándékot követeltek, hanem az, hogy a böngészők explicit módon nem bíztak a weboldalak kódjában, és izolálták az egyes lapokat (sandboxtabok). Hasonló, független, zero‑trust jellegű rétegre van szükség az ügynökök esetében is.
OpenShell és a tanulságok
OpenShell (Apache 2.0) egy nyílt forráskódú, biztonságos runtime, amely kernel‑szintű izolációt és sandboxolt környezetet biztosít autonóm ügynökök számára. Az NVIDIA tapasztalatai szerint minden ügynököt alapból zero‑trust környezetben kell futtatni: szükséges az izoláció, a folyamatos megfigyelés és a viselkedés‑detekció.
A vállalat ismerteti a „drift” jelenségét: amikor az ügynök tevékenysége eltér a kívánt feladattól vagy a működési korlátoktól. A drift előidézhető szabályblokkolás, hibák, hiányzó eszközök, kétértelmű utasítások vagy hosszú, többszörös próbálkozást igénylő feladatok miatt. NVIDIA szerint az ilyen eltéréseket nem lehet pusztán továbbképzéssel kiküszöbölni úgy, hogy megtartsák az ügynök képességeit — és egy ügynöktől önmagában nem várható el, hogy teljes mértékben felügyelje saját viselkedését.
Öt alapelv az ügynök‑rendszerek építéséhez
NVIDIA felsorolja az öt központi elvet, amelyekre egy megbízható ügynök‑rendszert építeni kell:
- A politika ellenőrizhető legyen: futtatás előtt egy bizonyító (prover) igazolja, hogy az ügynök politikája nem lépi túl az operátor szándékát.
- A végrehajtás legyen out‑of‑band: a kontrollok ne az ügynök belsejében vagy elérhetőségében éljenek; az ügynöknek nem kell tudnia, hogy figyelik.
- Az út a modellhez legyen a vezérlési pont: az ügynök nem léphet akcióba a „következő gondolata” nélkül; a modellhez vezető út kontrollálásával megvan a megfigyelés pontja és a „kill switch” is.
- Skálázás az átláthatósággal: minél többre képes az ügynök, annál jobban kell látszania a gondolkodásának; az open modellek előnye, hogy a teljes érvelési teret és aktivációkat láthatóvá lehet tenni.
- Megosztott felelősség modellje: laborok, vállalatok és hardver‑szolgáltatók rétegesen osztoznak a felelősségen; az ügynök runtime‑nak és politikanyelvnek nyíltan kell működnie, hogy bármely szolgáltató csatlakozhasson.
A biztonsági platform három rétege
NVIDIA definiálja az ügynökök biztonsági platformját három rétegben:
- Alkalmazás: amit a végfelhasználók építenek — modellek, eszközök (tools), adatok, segédfüggvények és programok.
- Runtime: az alkalmazást vetíti az infrastruktúrára; az ügynökök munkaterhelését olyan infrastruktúrára ütemezi, amely megfelel az igényeknek, és folyamatos megfigyelést, valós idejű szabályvégrehajtást és kormányzást biztosít.
- Infrastruktúra: a fizikai erőforrások — hálózati hívások, adatbázis‑ és fájlrendszer‑hozzáférés, általános vagy gyorsított számítási erőforrások, amelyek a végrehajtást és a biztonsági megfigyelést kiszolgálják.
OpenShell működése és kiterjesztése BlueField‑bel
OpenShell minden ügynököt sandboxban futtat, és az operátor instrukcióit ellenőrizhető politikákká alakítja. Az operátor meghatározza, mely fájlokhoz, hálózatokhoz, eszközökhöz, folyamatokhoz és hitelesítő adatokhoz férhet hozzá az ügynök; OpenShell ezeket a korlátokat lefuttatás előtt ellenőrzi és futás közben érvényesíti.
További, független rétegként az NVIDIA Sentry kiterjeszti a megfigyelést és végrehajtást a NVIDIA BlueField hardverére. A NVIDIA DOCA teszi programozhatóvá a BlueField biztonsági alapját és kapcsolja össze azt az OpenShell politikával; DOCA összekapcsolja az ügynök‑interakciókat, politikai döntéseket, eszköz‑ és adat‑hozzáférést, így kontextusos naplót hoz létre az ügynök tevékenységéről. Ez segíti a drift azonosítását, a gyanús viselkedés vizsgálatát és a szükséges beavatkozások vagy további elemzések eldöntését. A DOCA‑alapú átjáró kiegészíti ezt identitás‑kormányzással, folyamatosan igazolva az egyes ügynökök identitását és delegált hatáskörét.
Üzemeltetés AI‑gyár méretekben
A NVIDIA Open Agent Safety Platform optimalizáltan fut NVIDIA Vera CPU‑ és BlueField DPU‑alapú rendszereken, de kompatibilis más hardverekkel is. Egy NVIDIA Vera Rubin POD konfigurációban minden számítási tálcán (compute tray) szerepel egy BlueField‑4 DPU azon a csomóponti úton, amely a modellhez vezet; ebből a helyzetből a BlueField‑4 folyamatos, out‑of‑band megfigyelést és valós idejű szabályvégrehajtást tud biztosítani line‑speed teljesítménnyel. Mivel elkülönül a hosttól és kívül esik az ügynök hatókörén, megbízható infrastruktúra‑védelmi rétegként működik még akkor is, ha a host forrásai nem megbízhatók.
Ez a felépítés lehetővé teszi, hogy a nyílt OpenShell‑politika szilíciumban is érvényesüljön, és folyamatosan értékelni lehessen az ügynökök futásidejű biztonságát és integritását, beleértve a tervezett céloktól való eltérések felügyeletét egy előre definiált viselkedési profil alapján. A teljes ügynök‑flották, al‑ügynökök, eszközök és alkalmazások vonalai és leszármazási adatai (lineage) a határokon belül maradnak; a jelenlegi Vera + BlueField‑4 rendszereken a védelmi mechanizmusok bekapcsolása gyakran csak szoftverfrissítés kérdése.
Az ügynökök gazdasága
NVIDIA azt javasolja, hogy az internethez hasonlóan az ügynökök ökoszisztémája is nyílt forráskódra, nyílt kutatásra és összefogásra épülhet; a megbízhatósági réteg hozzáadása ugyanúgy gazdasági lehetőségeket nyit meg, mint korábban a web esetében. A vállalat együttműködik az AI‑ökoszisztéma szereplőivel és meghívja a frontier labokat, fejlesztőket és infrastruktúra‑szolgáltatókat, hogy építsenek a NVIDIA Open Agent Safety Platformra.
További információkért az NVIDIA hivatkozik a "Add Runtime Controls to AI Agents with NVIDIA OpenShell" technikai útmutatóra és meghívja az érdeklődőket az OpenShell használatának megkezdésére.
