A második alkalommal közzétett Data and AI Impact Report: The New Economics of Trust szerint azok a vállalatok, amelyek a legszigorúbb szervezetirányítási (governance), adatminőségi és ellenőrizhetőségi gyakorlatokat követik, jóval magasabb megtérülést érnek el AI-fejlesztéseikből, mint versenytársaik. A jelentés kiemeli, hogy a megbízható mesterséges intelligenciába (AI) beruházó – egyelőre kis – csoport rendszereinek visszatérülése legalább kétszerese a többiekének.
Mit mértek és milyen eredményre jutottak?
- A jelentés szerint azok a szervezetek, amelyek a megbízható AI gyakorlatait alkalmazzák, tizenötször nagyobb eséllyel számolnak be „erős vagy magas” megtérülésről AI-projektjeiknél: 62 százalék jelzett ilyen eredményt a megbízható AI-t alkalmazók között, szemben a 4 százalékkal a másik oldalon.
- A legjobb gyakorlatokat követő vállalatok 1,85-ször nagyobb nyereséget értek el 13 különböző üzleti mutató – például árbevétel-növekedés, költségmegtakarítás és ügyfélélmény – tekintetében.
Bizalom, felülbírálás és magyarázhatóság
A jelentés hangsúlyozza: ha az AI nem képes megmagyarázni döntéseit, az komoly üzleti kockázatot jelent. A kutatók azt tapasztalták, hogy a dolgozók egyre kevésbé bíznak azokban a rendszerekben, amelyekről nem lehet megállapítani, hogy helyes-e az eredmény, és amelyek nem képesek indokolni döntéseiket. Ennek következménye gyakran az, hogy az alkalmazottak felülbírálják vagy kézzel javítják az AI által hozott döntéseket — ez időt, termelékenységet és pénzt emészt fel, továbbá fokozza a bizalom hiányát.
Konkrét számok a bizalomról és a felülbírálásról:
- A felhasználók 97,2 százaléka legalább időnként felülbírálja az AI ajánlásait.
- A válaszadók leggyakrabban azért módosították a rendszerek döntését, mert a technológia nem tudta megindokolni választását.
- A generatív AI iránti bizalom 76 százalékos, míg az önállóbb AI-ügynökökkel szembeni bizalom csak 66 százalékos — a megbízhatóság iránti aggodalom tehát nő a rendszerek önállóságával.
Bryan Harris, a SAS technológiai igazgatója szerint: amikor az AI jól működik, óriási hatást lehet elérni, de a vezető AI-ügynökök hibaaránya összetett feladatoknál meghaladhatja a 25 százalékot, ami elfogadhatatlan a magas kockázatú területeken. Harris ezért hangsúlyozza, hogy a szakértői tudást integrálni kell az ügynöki munkafolyamatokba, és a felügyeletet továbbra is embereknek kell gyakorolniuk.
Chris Marshall, az IDC alelnöke arra mutat rá, hogy az AI önállósodásával egyre nagyobb kihívás megbízni olyan rendszerekben, amelyeket az emberek nem értenek teljesen. A jelentés szerinte egyértelműen azt mutatja: a szorosabb felügyelet, a magyarázhatóság, az elszámoltathatóság és a megbízható adatalapok előfeltételei annak, hogy az AI-t sikeresen lehessen nagy léptékben bevezetni.
Mi tesz egy AI-t „megbízhatóvá”?
A jelentés definíciója szerint a megbízható AI olyan rendszerek összessége, amelyeket úgy terveztek, hogy megbízhatóan, etikusan és biztonságosan működjenek, megfeleljenek a szabályozásoknak, és képesek legyenek világosan bemutatni döntéseik okát. A szervezet minden szintjén egyértelmű felelősségi láncot kell rögzíteni, amely mentén fel lehet kérni az AI-t számon hibás vagy hiányos eredményekért, továbbá minden AI-rendszert alá kell vetni a governance elveknek és nyomonkövethető szabályoknak.
Az adatok szerepe és infrastruktúrahiány
A szervezetek többsége ma még gyenge vagy elavult adatokra és adatinfrastruktúrára építi AI-rendszereit. A jelentés szerint szilárd adatalap nélkül nincs átláthatóság, magyarázhatóság és hatékony menedzsment, így a vállalatok nem képesek teljes mértékben kihasználni az AI lehetőségeit.
- Csak a vállalatok 17,5 százaléka rendelkezik teljesen optimalizált adatinfrastruktúrával, amely megfelel az AI-ügynökök igényeinek. Ez a hiányosság visszafogja a technológia teljesítményét és a megtérülést.
Miért számít mindez?
A jelentés egyszerre gazdasági és működési figyelmeztetés: a megbízhatóságba fektetett vállalatok lényegesen jobb eredményeket érnek el, míg azok, amelyek nem építik be a governance-t, a magyarázhatóságot és a szilárd adatalapokat, jóval kisebb eséllyel számíthatnak magas megtérülésre. A tanulság: az AI-t nemcsak fejleszteni, de felelősen és átláthatóan üzemeltetni is kell ahhoz, hogy a technológia hosszabb távon értéket teremtsen.
