Egy SAS megbízásából készült felmérés szerint az üzleti döntéshozók nagy része már agentikus vagy ügynökalapú rendszereket használ a szervezetében, ugyanakkor a bizalom az autonómiával nem tart lépést. A kutatást 2 700 "decision-maker" töltötte ki 28 országban; a felmérés szerzőjének neve J.D. Capelouto.
Kulcseredmények
- A megkérdezettek közel 90%-a arról számolt be, hogy szervezetében az ügynököknek van valamilyen döntéshozatali szerepük.
- Mindazonáltal csak 66% mondta azt, hogy megbízik az agentikus AI-ban.
- Összehasonlításképp körülbelül háromnegyedük (kb. 75%) bízik a generatív AI-ban szélesebb értelemben.
Ezek az adatok azt mutatják, hogy az AI-eszközök bevezetése a vállalatoknál gyorsabb tempóban zajlik, mint ahogyan a vezetők bizalma kialakul vagy megerősödik.
Miért lépnek felül az emberek az AI-döntéseken?
A felmérés rávilágított: a leggyakoribb oka annak, hogy a vezetők felülbírálják az AI döntését, az volt, hogy nem kapnak elegendő magyarázatot arra vonatkozóan, hogyan jutott az AI az adott következtetésre. Ezt a választ több mint kétszer annyian jelölték meg, mint azt, hogy az AI egyszerűen téves kimenetet adott volna.
Ez a megállapítás arra utal, hogy a transzparencia és az értelmezhetőség hiánya nagyobb akadály a széleskörű elfogadásban, mint a pontosság hibái önmagukban.
Miért számít ez?
A vállalatok gyorsan integrálják az AI-t üzleti folyamataikba, de a technológia tényleges hasznosulása és skálázása nagymértékben függ attól, hogy a felhasználók megértsék és megbízzanak a működésében. A felmérés szerint a magyarázhatóság hiánya visszatartó erő lehet: még ha az algoritmusok helyes eredményeket is adnak, az átláthatóság hiánya miatt döntéshozók inkább beavatkoznak.
Következtetések
A számok alapján a szervezeteknél az AI-alkalmazások implementációja előrébb jár, mint amennyi bizalom épült ki az agentikus rendszerek iránt. A vállalati döntéshozók és a technológiai vezetők számára ezért fontos prioritás lehet a magyarázhatóság és a felhasználói oktatás erősítése annak érdekében, hogy az AI eszközök hatékonyan és kiszámíthatóan működjenek a mindennapi üzleti döntésekben.
(Információ forrása: J.D. Capelouto által ismertetett SAS megbízású felmérés.)
