A modern vállalati környezetekben nem egyetlen mesterséges intelligencia ügynök fut önmagában, hanem flották települnek: egymást hívó ügynökök, API-k és meglévő alkalmazások, amelyek eredetileg nem gépi döntéshozásra készültek. Ez az egymásra épülő, hullámzó kapcsolatháló az a hibamód, ami könnyen láthatatlanná válik a szervezet számára, és ezért különösen kockázatos.
Miért lesz gyorsan átláthatatlan a rendszer?
Egy második ügynök hozzáadásával egy új kapcsolattal nő a rendszer; tizedik ügynök esetén azonban nem egyszerűen tíz kapcsolat van, hanem potenciálisan sokkal több, mert bármely ügynök hívhat bármelyik másikat, és ezek a hívások láncszerűen továbbindíthatnak műveleteket. A komplexitás nem lineárisan a fejlétszámmal, hanem az ügynökök közötti lehetséges útvonalak számával halmozódik, és senkinek sem feltétlenül az a feladata, hogy ezt a gráfot megrajzolja.
Ennek következménye, hogy egy korábban egy rendszert érintő támogatási ügy ma könnyen négy ügynökön mehet át, mielőtt emberi szem vizsgálná — és minden átadás egy új, nem jóváhagyott döntéspont lehet.
Hol csúsznak el a leggyakoribb programok?
- Jogosultságok kúszása: valaki gyorsan létrehoz egy ügynököt például jegyösszegző feladatra, széles API-hozzáférést ad neki, mert a pontos körülhatárolás egy plusz sprintet igényelt, aztán elfelejtik. Fél év múlva ugyanaz az ügynök hozzáférést találhat a fizetési rendszerhez — senki sem emlékszik, hogy ezt jóváhagyták, mert nem történt meg.
- Tulajdonlás elvékonyodása: ha öt ügynök érinti ugyanazt a munkafolyamatot és a negyedik lépésnél történik a hiba, könnyen előáll az a helyzet, hogy nincs egyértelmű felelős az adott láncszakaszért. A szervezeti folyamat megállt a „telepítsd az ügynököt” szinten, a „nevezd meg a felelőst” soha nem követte.
Ez a történet arról szól, hogy a meglévő kormányzati infrastruktúra nem tart lépést azzal, hogyan viselkednek valójában az ügynökök: egymáshoz kapcsolódva, kaskádolva és olyan tempóban szaporodva, amely meghaladja az őket követni hivatott folyamatokat.
Hogyan lehet elkezdeni a javítást?
- Azonosítás: minden ügynöknek önálló entitásként kell léteznie — nem árnyékszerepként a telepítőtől. Saját neve a nyilvántartásban, saját, finoman szabályozott jogosultságai és egy név szerint megnevezett emberi szponzor, aki vállalja a felelősséget. Ez alapfeltétel, de önmagában nem elég.
- Láncszemek fölötti felügyelet: szükség van arra, hogy ne csak az egyes ügynökök tetteit lássuk, hanem azt is, hogy milyen tovagyűrűzéseket indítottak el, és hol végződik ez a lánc — valós időben, ne csak negyedéves jelentésekben. Ha csak az ügynökszintű azonosítást rendeljük helyre, egy hibátlanul dokumentált ügynökökből álló fiókrendszer marad, ami mögött a rendszer működése továbbra sem érthető.
- Végrehajtás és megakadályozás: a legtöbb program csak naplóz és riaszt — közben nem akadályozza meg a szabálytalan hívások végrehajtását. Egy irányítópult, amely öt perces késéssel jelzi, hogy egy ügynök túllépte a hatókörét, monitorozás; egy olyan mechanizmus viszont, amely megállítja a szabálytalanságot még a végrehajtás előtt, valódi kormányzás.
Mi a végső cél?
A komolyan vett ügynökfelelősséghez mind láthatóságra, mind végrehajtó kontrollra szükség van. A szervezetek, amelyek képesek továbblépni a komplexitás falán, azok, amelyek ezt a kettőt együtt építették ki; így a flották növekedhetnek anélkül, hogy bárki elveszítené a képességet, hogy megválaszolja a két alapvető kérdést: mit csinál most a rendszer, és ki vállalja érte a felelősséget?
Ne vonjuk vissza a tempót: a sikeres vállalatok nem fékeznek, hanem olyan irányítási és azonosítási megoldásokat fejlesztenek, ahol a skálázódás és a felelősség együtt növekszik — a szervezeti „Human-Agent Harmony” irányába. A valódi kockázat sosem egyetlen ügynök volt, hanem százakat látni, amelyek egyszerre végzik a feladatukat, és kölcsönhatásaikra senki sem készült fel. Ha a vállalatok kezelik a komplexitást, az autonómia többé nem lesz ellenség, hanem maga a cél.
Rory Blundell, a Gravitee vezérigazgatója.
Ez a tartalom reklámozott anyag (sponsored) a Gravitee bemutatásában.
