Biztonság

Mesterséges intelligenciával generált szöveg

Az OpenAI ismertette a Codex parancsvégrehajtásának biztonsági korlátait

Az OpenAI bemutatta, hogyan korlátozza a Codex mesterségesintelligencia-ügynök által futtatott parancsok hozzáférését a felhasználó számítógépén.

Az OpenAI ismertette a Codex parancsvégrehajtásának biztonsági korlátait

Az OpenAI ismertette, hogyan korlátozza a Codex ügynöki rendszer a felhasználó számítógépén végrehajtott parancsok fájlrendszer- és hálózati hozzáférését. Michael Bolin, az OpenAI műszaki munkatársa szerint a sandbox a modell tanítását és igazítását kiegészítő, többrétegű védelem része: a parancsok a felhasználó meglévő környezetében futnak, de előre beállított jogosultsági korlátok között.

A jogosultsági profilok egy Codex-munkamenet fájl- és hálózati szabályait határozzák meg. Fényképek rendezésekor például engedélyezhető a ~/Pictures mappa olvasása és módosítása, miközben a hálózat letiltható a feltöltések megakadályozására. Kódellenőrzésnél ezzel szemben a forrásfájlok lehetnek csak olvashatók, az online dokumentáció pedig elérhető.

Az alapbeállítások és korlátaik

A beépített :workspace profil engedi a munkaterületen belüli írást, de egyebek mellett a .git és a .codex könyvtárat csak olvashatóvá teszi. Így a Codex szerkesztheti a forráskódot anélkül, hogy minden változtatáshoz engedélyt kérne, ugyanakkor közvetlenül nem módosíthatja például a Git hookokat vagy a .codex/config.toml fájlt.

A profil a felhasználó operációs rendszerbeli jogosultságain belül széles körű olvasási hozzáférést ad. Erre azért van szükség, mert a fordítók, futtatókörnyezetek és buildeszközök a projekten kívüli könyvtárakat és beállításokat is használhatják. Az engedmény kockázata, hogy máshol tárolt érzékeny fájlok, például API-kulcsokat tartalmazó konfigurációk is olvashatók maradhatnak. A hálózat alapértelmezésben le van tiltva, ami megakadályozza a közvetlen külső feltöltéseket, de például a függőségek letöltéséhez is további hozzáférés kell.

A sandbox nem szüntet meg minden veszélyt. Bolin példaként említi, hogy az ügynök rosszindulatú kódot helyezhet el egy helyileg telepített, a Git által gyakran figyelmen kívül hagyott csomagban, például a node_modules/prettier könyvtárban. Ha a szerkesztő mentéskor ezt a példányt futtatja, a kód már a Codex sandboxán kívül hajtódhat végre. Az OpenAI szerint ezért a hozzáférési korlátokat a modell tanításával és igazításával együtt kell alkalmazni.

Profilok és engedélykérések

Az OpenAI nem virtuális gépbe vagy konténerbe helyezi a Codex parancsait, hanem az adott operációs rendszer védelmi eszközeivel korlátozza azokat. A megközelítés lehetővé teszi a meglévő fejlesztőkörnyezet használatát: egy Macen futó iOS-projekt például támaszkodhat a natív buildeszközökre és az iPhone-szimulátorra, amelyek konténeres elkülönítés mellett nehezebben érhetők el.

A Codex vezérlőrendszere közös programozási felületen adja át a parancsot és a jogosultsági profilt a platformfüggő sandboxnak. A korlátozások a parancsból indított gyermekfolyamatokra is öröklődnek, akkor is, ha azok tovább élnek az eredeti folyamatnál. A modell egyes parancsokhoz kibővített hozzáférést vagy a sandboxon kívüli futtatást is kérhet, de a döntést a vezérlőrendszer hozza meg a felhasználó beállításai alapján; szükség esetén a felhasználótól vagy automatikus felülvizsgálattól kér jóváhagyást.

A felhasználók a config.toml fájlban saját, több projektnél újrafelhasználható profilokat hozhatnak létre. Ezek megadhatnak írható, csak olvasható vagy tiltott útvonalakat. Az OpenAI példájában a :workspace profilból származtatott dev profil engedi a ~/build-cache írását, miközben a munkaterületek .vscode könyvtárait csak olvashatóvá teszi.

A hálózat teljesen letiltható, közvetlenül engedélyezhető, vagy egy proxyra korlátozható. A proxy pontos és helyettesítő karakteres tartománynevekre vonatkozó szabályokat alkalmaz; a kifejezett tiltás elsőbbséget élvez az engedélyezéssel szemben. A szabályokban nem szereplő kérések jóváhagyásra várhatnak vagy elutasíthatók.

A konfiguráció több rétegből állhat: az ütköző értékeknél a magasabb prioritású beállítás érvényesül, a táblák rekurzívan egyesülnek, a tömbök viszont teljes egészükben cserélődnek. Vállalati rendszergazdák a requirements.toml fájlon vagy felhőből érkező házirenden keresztül korlátozhatják például a választható profilokat. A felhasználók ezen kereteken belül tovább szabhatják saját beállításaikat.

Önálló parancsok és MCP-kiszolgálók

A codex sandbox parancs ügynöki munkameneten kívül is alkalmazhatja a konfigurált profilokat tetszőleges parancsokra. Ezzel a fejlesztők tesztelhetik a szabályokat, és saját eszközeikben is használhatják a platformfüggő védelmet.

A Codex alapértelmezésben nem helyezi sandboxba a konfigurált, szabványos bemeneten és kimeneten kommunikáló MCP-kiszolgálók indítóparancsait, mert nem tudja megbízhatóan megállapítani, milyen fájlokra és hálózati szolgáltatásokra van szükségük. Az OpenAI példája szerint egy memóriakiszolgáló indítóparancsa köré ugyanakkor külön profil és codex sandbox illeszthető. A csomag előzetes gyorsítótárazásával a kiszolgáló hálózat nélkül is elindítható, az írás pedig a szükséges adatkönyvtárra és npm-gyorsítótárra korlátozható.

A hálózati védelem működése

Amikor egy profil korlátozott hálózati hozzáférést enged, a Codex proxyt indít, és a közvetlen külső kapcsolatokat blokkolja. A proxy a tartományszabályok alapján továbbítja vagy elutasítja a kéréseket. Alapértelmezésben HTTP- és SOCKS5-proxyt is indít, címüket pedig többek között a HTTP_PROXY, HTTPS_PROXY és ALL_PROXY környezeti változókon keresztül közli a folyamatokkal. Az ezeket figyelmen kívül hagyó programok közvetlen külső kapcsolatait az operációs rendszer sandboxa blokkolja.

A proxy csak az engedélyezési döntés után oldja fel a célállomás nevét, mert már egy DNS-lekérdezés is kiszivárogtathat a névbe kódolt adatokat. A széles helyettesítő karakteres szabályok vagy DNS-szolgáltatásokhoz adott hozzáférés ennek ellenére lehetővé tehetnek DNS-alapú adatszivárgást.

Megvalósítás macOS-en, Linuxon és Windowson

MacOS-en a Codex az Apple kernel által érvényesített Seatbelt sandboxát használja a /usr/bin/sandbox-exec segítségével. A létrehozott szabályzat alaphelyzetben tilt, és csak a kifejezetten engedélyezett hozzáféréseket nyitja meg, beleértve szükség esetén a proxy helyi portjait. Bár az Apple a sandbox-exec parancsot elavultnak jelöli, és a szabályleíró nyelvet nem dokumentálja külső fejlesztőknek, az OpenAI egyelőre tovább kívánja használni a Seatbeltet.

Linuxon a Codex a bubblewrap eszközt és a rendszerhívásokat szűrő seccomp-bpf mechanizmust kombinálja. A bubblewrap a profilnak megfelelő fájlrendszernézetet és szükség esetén külön hálózati névteret hoz létre; a seccomp további korlátozásokat alkalmaz, amelyek a gyermekfolyamatokra is öröklődnek. A tiltó mintákat a rendszer indítás előtt konkrét útvonalakra bontja, így a később létrejövő új találatok nem kerülnek automatikusan a futó parancs tiltásai közé. Proxy használatakor egy, az elkülönített névtéren belüli helyi figyelő és egy azon kívüli közvetítő továbbítja a kapcsolatokat a proxyhoz.

Windowson az OpenAI a korábbi sandboxtól a Microsoft által kiadott Microsoft eXecution Containerre (MXC) tér át a kompatibilis eszközökön. A váltással a cég többek között a rendszergazdai beállítási igényt, a lassú jogosultságellenőrzést és a gépen megmaradó beállítási állapotot szeretné kezelni. A Codex az MXC számára a parancsot, a munkakönyvtárat, a környezetet, valamint a fájl-, hálózati és Windows-erőforrásokra vonatkozó jogosultságokat adja át.

Az MXC-alapú megoldás engedélyezi a rendszerleíró adatbázis olvasását és a PowerShell indulásához szükséges asztali hozzáférést, de tiltja többek között a vágólap használatát és a bevitelinjektálást. A fájlszabályoknál a specifikusabb útvonalak felülírják az általánosabbakat; eltérő útvonalnevek vagy hivatkozások esetén a szigorúbb jogosultság érvényesül. A tiltó mintákat itt is indítás előtt kell feloldani. A közös Codex-proxy kezeli a tartományszabályokat, miközben az MXC blokkolja a közvetlen külső kapcsolatokat; más helyi szolgáltatások ugyanakkor elérhetők maradnak.

Az OpenAI célja, hogy az ügynökök a felhasználók saját környezetében dolgozhassanak, miközben a hozzáférésük szabályozható marad. A vállalat szerint a következő lépések közé tartozik a jogosultságok egyszerűbb beállítása és az új operációs rendszerbeli védelmek alkalmazása.