„Airlock” architektúra: hogyan tegyük gazdaságilag életképessé az ügynök-alapú AI-t

By Artur Huk

Az ügynök‑alapú mesterséges intelligencia bevezetését követő lelkesedés mögött gyakran gyorsan anyagi fájdalom jelentkezik. Vállalati környezetben a legjobb modelleket szerezték be, kötelezővé tették az alkalmazást, és mérőszámokat állítottak fel — a várt hatékonyságnövekedés kezdetben meg is jelent. A működő prototípusok és a hibátlan demók után azonban megérkezett a számla: költségek emelkedtek, miközben a termelékenység alig változott, és „az éves AI‑keretek kimerülnek még a második negyedév előtt”.

Két tipikus kórkép világít rá a strukturális hibára:

• A költségspirál: vállalatok fizetnek emberi ügyfélszolgálati munkatársakat, miközben a rendszer 10 000 tokenes hosszú gondolkozási ciklusokat futtat egy egyszerű, 15 dolláros megtérülés igazolásához. Régi, determinisztikus rendszerek ugyanazt a döntést töredék-centbe kerülő számítással elvégezték; a probabilisztikus modellek viszont bruttó árrést emésztettek fel, ismétlésekre, egymással vitázó ellenőrzőügynökökre és „gondolkodj még” jellegű utasításokra.

• A bizalom összeomlása: áprilisban több mint 20 000 Instagram‑fiókot törtek fel azzal, hogy kihasználták a Meta AI‑támogatott fiókjelető eljárását. A rendszer jelszó‑visszaállító linket küldött a támadók kontrollja alatt álló e‑mail címekre, mert egy alrendszer nem ellenőrizte függetlenül, hogy a megadott cím valóban a célfiókhoz tartozik. Nem történt kriptográfiai törés vagy nulla‑napos sebezhetőség: a modell nem hallucinált, egyszerűen követte a neki adott utasításokat — a hibát az okozta, hogy egy probabilisztikus felület engedett meg egy identitáskritikus állapotváltozást felügyelet nélküli döntésként.

Mindkét eset ugyanannak a szerkezeti hibának a tünete: strukturális hiányosságokat kezelnek „több gondolkodással” vagy nagyobb számítással, ahelyett hogy a rendszert megfelelően elkülönített, determinisztikus szabályokkal és ellenőrzésekkel építenék fel.

A kategóriahiba: szabadon kószáló rajokat gyárakba kényszerítünk

A vállalati AI‑feladatok két alapvető osztályra oszlanak. Felfedezői környezetek (kódgenerálás, stratégiai kutatás) előnyben részesítik a változatosságot és a kreatív „raj”‑viselkedést. Ezzel szemben a tranzakcionális műveletek (számlázás, igénykezelés) a gyártósor merev ismétlését és betartatását követelik meg. A hiba akkor történik, amikor zárt végű, szabályos üzleti tranzakciókat nyitott végű kutatási problémaként kezelnek: szabad szemiotikai motorokat üzemeltetnek gyártósori állapotgépek helyett.

Az önállóság költségei

A modell bizonytalanságára adott ipari reflex legtöbbször az, hogy több számítást és komplexitást dobunk a problémára ahelyett, hogy biztonságos architektúrát építenénk. Három visszatérő hibaminta teremt tipikus pénzügyi patológiát:

1. Helyi optimalizáció (a farokkergető inference‑ciklus)

• A LLM‑ek csak az aktuális kontextusablakot „látják”. Egy számlázóügynök például, ha hiányos a beszállító‑mező, gyakran nem tud külső adatbázisból lekérdezni hiányzó értéket, hanem újrapróbálkozik a prompt újraformálásával, ismételgetve ugyanazt a hiányos kontextust és tokeneket pazarolva. A gyártásban ez havi‑éves karbantartási adóssággá válik: modelleket frissítenek, promptokat újrahangolnak, majd vendor deprecációk ismét költséget generálnak.

2. Előfeltevés‑elfogadás (a megszállt ügynök)

• A modellek a promptot a jelenlegi valóságnak tekintik. Időbeli vakság, „state drift”: a T0‑ban helyes feltételezés T1‑re elavulhat (készletváltozás, ármozgás, emberi beavatkozás). A súlyosabb eset a „compliant lie” — amikor az ügynök szintaktikailag és formailag helyes, de üzleti értelemben hibás döntést hoz (például egy ügyfél lemondást kért, az ügynök pedig 15% kedvezményt alkalmaz a lemorzsolódás csökkentéséért).

3. Szemantikai kisimulás (a konformitás csapdája)

• A modellek a nyelvi összhangra optimalizálnak, hajlamosak konszenzusra és sima narratívára. Több ellenőrzőügynök hozzáadása sem szünteti meg ezt: ha mind ugyanabból a hiányos kontextusból dolgozik, nem öt független véleményt kapunk, hanem öt korrelált „hallucinációt”. A többségi vita rendszerei idővel konformizmusba hajlanak, miközben a tokenköltségek nemlineárisan nőnek.

Ezen hibák közös jellemzője: a rendszer a hiányzó korlátokat „több intelligenciával” kompenzálja. A végeredmény kiszámítható: a költségek felhalmozódnak, a megbízhatóság alig javul.

A bizalom architektúrája: az „airlock” elkülönítés

Mivel a LLM‑ek lokális optimalizációra, előfeltevés‑elfogadásra és szemantikai kisimulásra vannak hajlamosak, nem szabad őket hagyni, hogy saját végrehajtási határaikat felügyeljék zárt tranzakciókban. A mérnöki prioritás így nem a modellek okosabbá tétele, hanem egy determinisztikus rendszerréteg kiépítése, amely a modell kimeneteit nem privilegizált állításokként kezeli.

A javasolt megoldás egy „airlock”: a probabilisztikus érvelés (user space) és a determinisztikus végrehajtás (kernel space) szétválasztása. Ez megvalósítható mikrokernel, workflow‑motor, policy platform vagy orchestration keretrendszer formájában. Az airlock három fő védvonalból épül fel:

1) Szinaktikus kormányzás és hatáskör‑szigetelés

Minden ügynök‑javaslat egy strukturált policy proposal formájában nyújtandó be egy géppel olvasható felelősségszerződéshez (pl. YAML + Pydantic). Ezek a szerződések fix, tesztelhető artefaktok; megvédik a rendszert attól, hogy minden egyes hatáskört tokenekkel próbáljunk megindokolni. Ha az ügynök nem jogosult API‑hívást kezdeményezni, túllépi a pénzügyi limitet, vagy rossz JSON‑t ad vissza, a runtime azonnal megtagadja a végrehajtást — nulla inferencia‑költséggel.

Az ilyen határátlépéskor az ügynök gyakran ismétlődő „próbálkozások” loopingjába esne, ami token‑kifutáshoz vezet. Ezt a problémát egy intent retry governor kezeli: például három sikertelen próbálkozás után a rendszer a compute‑keretet elvágja, és a folyamatot REASONING_EXHAUSTION állapotba helyezi.

2) Szemantikai kormányzás és bizonyíték‑ellenőrzés

A szintaktikai kapuk nem fognak elkapni minden problémát: létezik a „compliant lie”, amikor a JSON szintaktikailag helyes, de az akció ellentmond független bizonyítékoknak. Az airlock ezen a ponton független evidenciapontokat keres, például:

• Differenciális heuristikák (tényellenőrzés): Összekötjük a probabilisztikus javaslatot egyszerű, olcsó SQL‑alapú szabályokkal. Ha a LLM 50% kedvezményt javasol, de az ügyfélszint limit 15%, a SQL‑lekérdezés felülírja a javaslatot.

• Evidencia‑ellenőrzés: ha az ügyfél e‑mailje explicit lemondást tartalmaz, egy független intent‑classifier (regex, hagyományos ML vagy routing heuristika) jelzi a CANCEL_SUBSCRIPTION szándékot. Ha a javaslat APPLY_DISCOUNT, a runtime evidenciakonfliktust észlel és megállítja a végrehajtást.

• Bidirekcionális rekonstrukció (decision reversibility): összetettebb, kétértelmű esetekben egy kisebb, elszigetelt Agent B megpróbálja a LLM kimenetét visszabontani, és megvizsgálni, hogy az output igazolható‑e a bemeneti kontextussal. Ha a rekonstruált narratíva nem magyarázza hitelesen a bemenetet, a rendszer további emberi vagy modell alapú eskalációt indít.

A központi elv: a végrehajtási jogosultságot soha nem autokratikusan adja meg az ügynök meggyőző nyelve; azt csak akkor kapja meg a javaslat, ha független bizonyíték támasztja alá.

3) Időbeli kormányzás és ügynök‑drift

Még ha egyedi döntések helyesek is, az aggregált viselkedés idővel „agent drift” révén lassan kikezdheti a cég nyereségességét (például egy retention‑ügynök folyamatosan a maximális 15%‑os kedvezményt használva). Ennek megakadályozására a rendszer döntéstelem‑telemetriát alkalmaz: minden interakcióhoz egy egyedi Decision Flow ID (DFID) kapcsolódik, így a döntések, kontextusok és kimenetek relációs adatsorokként tárolhatók és aszinkron módon monitorozhatók.

Példa: heti gördülő ablakban SQL‑monitort futtatva kiszűrhető, ha egy ügynök görgetve 14.5% feletti átlagkedvezményt alkalmaz; ilyen esetben egy circuit breaker azonnal felfüggeszti az ügynök végrehajtási jogosultságát, amíg emberi ellenőrzés meg nem történik.

Pontosság mint pénzügyi szabályozó

Ha a runtime garantálja a kontextus, hatáskör, bizonyíték és időbeli korlátok betartását, a katasztrofális hibák kockázata drasztikusan csökken. Ekkor a modell pontossága nem a biztonság elsődleges kérdése, hanem egy gazdasági változó: mennyit ér meg kevesebb eskaláció.

A döntés teljes költsége így egyszerűsödik:

Total Decision Cost = Compute Cost + (Escalation Rate × Human Cost)

Mivel a determinisztikus airlock csökkenti a rendszerszintű kockázatot, a kérdés az lesz, hogy melyik modell‑ és eskaláció‑kombináció minimalizálja a döntés egységköltségét. Okosabb modell csökkentheti az eskalációkat, de nem szünteti meg a valódi, üzleti kétértelműségből fakadó eseteket.

Tervezés a tökéletlenségre

A fejlődés lényege nem az, hogy a modell soha ne tévedjen, hanem hogy a rendszer úgy legyen megépítve, hogy a modell hibái ne váljanak kiszámíthatatlan, korlátlan költséggé. Az „airlock” architektúra determinisztikus kapui, bizonyíték‑ellenőrzései és időbeli monitorjai a modellek pontosságát egy szabályozható, pénzügyileg mérhető csúszkává alakítják.

Ez az átalakulás nem technológiai korlátozásról szól: a leírt runtime referencia‑architektúra nem kötött megvalósításra. Ugyanezek az elvek elérhetők workflow‑motorokkal, policy platformokkal, orchestration keretrendszerekkel vagy egyedi infrastruktúrával. A fő üzenet: a jövő ügynök‑alapú AI‑ját azok a szervezetek fogják megnyerni, amelyek hatékonyan választják szét az intelligenciát és a jogosultságot — az intelligencia ezután gazdasági beállíthatóvá válik, a biztonság pedig az infrastruktúra része lesz.

A végső következtetés: a mesterséges intelligencia nem akkor válik vállalati szinten mérnöki tudománnyá, amikor a modellek hibátlanná válnak, hanem amikor az architektúrák úgy tervezettek, hogy a modellek hibáit determinisztikusan kezelni tudják.