A VB Pulse 2026 júniusi felmérése szerint a nagyvállalati AI-csapatok egyre több autonómiát adnak az ügynököknek (agenteknek), miközben az automatizált tesztelésekbe vetett bizalom éppen erodálódik. A 157, legalább 100 főt foglalkoztató cégből álló, önkéntes mintán alapuló minta azt mutatja: a vállalatok hajlamosak előbb élesíteni agenteket, és csak később építik ki köréjük a kontrollrétegeket.
Mi történt és kiket érint
- A felmérés szerint az enterprise szervezetek fele (50%) telepített már olyan AI-agentet vagy nagy nyelvi modult (LLM) használó funkciót, amely belső értékeléseken átment, mégis ügyféloldali hibát okozott. A válaszadók egynegyede (25%) több ilyen incidensről számolt be.
- A minta 157 kvalifikált vállalati válaszadó önkéntes részvétel alapján készült, ezért az eredmények iránymutatónak tekintendők, nem pontos, reprezentatív gyakoriságoknak.
Az autonómia növekedése vs. a bizalom csökkenése
- A vállalatok nem lassítanak az automatizáción: a válaszadók 66%-a már most megenged valamilyen éles üzembe helyezést emberi felülvizsgálat nélkül, vagy azt tervezi, hogy a következő 12 hónapban olyan rendszert épít, amely lehetővé teszi ezt.
- Csak 5% mondta, hogy teljes mértékben megbízik az automatizált értékelésekben, amelyek az ilyen kiadási döntéseket meghozzák.
- Ezt a feszültséget a cikk „értékelési résnek” nevezi: az autonómia plafonja gyorsabban nő, mint az azt alátámasztó biztosítékok.
Miért nem elég, ha egy agent "átmegy" egy teszten?
Tradicionális szoftvertesztelésnél általában egy adott bemenethez elvárt kimenetet kötünk. Az agentek viszont saját lépéssorozatot választhatnak, eszközöket hívhatnak meg, adatokat kérhetnek le, állapotot módosíthatnak, és futásonként eltérően viselkedhetnek. Ennek következményei:
- Egy agent egyszerre több racionális döntést hozhat és mégis rossz üzleti eredményhez vezethet (például a jó ügyfélfiókot nyitja le, de a rossz mezőt frissíti),
- Létrejöhet helyesnek tűnő visszatérítés-kérelem, amely jóváhagyás nélkül elindul,
- Egy hatlépéses folyamat korábbi lépései sikeresek lehetnek, a hatodik viszont érzékeny adatot szivárogtathat vagy befejezetlen folyamatot hagyhat maga után.
Miért nem bíznak az automatizált értékelésekben?
A válaszadók leggyakoribb aggályai a következők voltak:
- 29%: a tesztek rosszul igazodnak a valós kimenetekhez,
- 21%: torzítás vagy következetlenség,
- 18%: magyarázhatóság hiánya,
- 17%: adatkiszivárgás vagy adatvédelmi aggályok. Ez azt jelzi: a vállalatok szerint a pontszámok gyakran nem jó előrejelzői annak, hogy mi történik élesben, amikor ügyfelek, munkavállalók vagy üzleti folyamatok találkoznak az agenttel.
Egyetértés a szabványokkal: NIST és más ajánlások
A Nemzeti Szabványügyi és Technológiai Intézet (NIST) Generative AI Profile dokumentuma hasonló megállapításra jut: a kontrollált környezetben mért mutatók nem biztos, hogy átfordulnak a telepítésre, mert a viselkedés változik promptok, felhasználók, kontextus és üzemeltetési körülmények hatására. A NIST ajánlása mezőtesztelésre, üzembe helyezés utáni monitorozásra és világos hibaescalációs folyamatokra hívja fel a figyelmet.
Képesség versus következetesség
Egy sikeres futás megmutatja, hogy az agent képes elvégezni egy feladatot, de nem igazolja, hogy azt megbízhatóan ismételni tudja. Anthropic értékelési útmutatása különbséget tesz az „egyszeri siker” és a „minden alkalommal siker” mérése között — ez különösen fontos ügyfélkiszolgáló vagy operatív munkafolyamatoknál. Ajánlott gyakorlatok:
- A megismételhetőség mint elsőrendű mérőszám kezelése: ugyanazon forgatókönyv többszöri lefuttatása, megfogalmazás és kontextus variálása, eszközhibák tesztelése,
- A végső üzleti eredmény mérésére koncentrálni, nem csak a köztes outputokra,
- Minden éles incidentet állandó regressziós tesztként felvenni a pre-deployment tesztkészletbe (hibabejelentések, sikertelen eszközhívások, hibás jóváhagyások, adatkezelési hibák visszacsatolása).
Autonómia növelése kockázat alapúan, nem ambíció szerint
A felmérés nem azt mondja, hogy minden agent-feladatot ember felügyeletéhez kell kötni — emberi felülvizsgálat nem skálázható milliók alacsony következményű döntésénél. Ugyanakkor a teljesen ember nélküli működést bizonyítottan megbízhatónak kell kiérdemelnie, és a hibák következményei szerint kell korlátozni.
- Alacsony kockázatú műveletek (belső összefoglalók készítése, dokumentumok kategorizálása) szélesebb autonómiát engedhetnek meg.
- Magas kockázatú műveletek (pénzügyi tranzakciók, ügyfélkommunikációk, kód telepítése, jogosultságváltoztatások, adat törlése) szigorúbb feltételeket igényelnek: ismételt következetességi teszteket, szabályzat-ellenőrzéseket, visszagörgetési mechanizmusokat és egyértelmű emberi eskalációs útvonalakat.
Méret szerinti eltérés és piaci következmények
A nagyobb vállalatok (2 500 vagy több alkalmazott) gyorsabban haladnak a nulla-emberi telepítés felé: 70% köztük enged meg vagy tervez ilyet, szemben a kisebb cégek 64%-ával. Ugyanakkor a nagyoknál gyakoribb az olyan agent-szállítás, amely később ügyféloldali hibát okoz (54% vs. 48%). Ez figyelmeztetés: az ember kivétele a folyamatból nem szünteti meg a bizonytalanságot; ha nincs erősebb biztosíték, a bizonytalanság automatizált éles döntéssé konvertálódik.
Következtetés: mire költsenek a vásárlók jövőre?
A piaci nyomás tovább fog hajtani nagyobb autonómia felé, mert a gazdasági ösztönzők valósak. A legjobb pozícióban azok a szervezetek lesznek, amelyek nem pusztán a leggyorsabban távolítják el az embereket a hurokból, hanem amelyek a telepítési sebességgel azonos súllyal kezelik a megismételhetőséget és a regressziós tesztelést. A következő év várhatóan a retrofittal és a kontrollerendszerek felépítésével telik: identitás, értékelés, költség, kontextus és orkesztráció kontrolljai kerülnek előtérbe.
