A SAS szoftvervállalat és az IDC piackutató második alkalommal készítette el a Data and AI Impact Report: The New Economics of Trust című kutatást, amely annak jár utána, milyen gyakorlati tényezők kapcsolódnak az MI-beruházások sikeréhez. A jelentés egyik legfontosabb megállapítása, hogy azok a szervezetek, amelyek aktívan alkalmazzák a megbízható MI (trustworthy AI) elveit, jóval nagyobb eséllyel érnek el jelentős megtérülést (ROI) MI-projektjeikből: 62 százalékuk számolt be erős vagy magas megtérülésről, szemben a lemaradó szervezetek csupán 4 százalékával — ez hozzávetőlegesen tizenötszörös különbséget jelent.
A megbízható MI elemei és hatásuk
A jelentés szerint a legszigorúbb gyakorlatot követő — jelenleg még szűk — vállalati kör különösen jól teljesít az olyan területeken, mint a szervezetirányítás, az adatminőség és az ellenőrizhetőség. Ezeknél a szervezeteknél az MI-fejlesztések legalább kétszer akkora megtérülést hoznak, mint a többieknél; a megbízható MI terén lemaradó szervezetek közül kevesebb mint 5 százalék mondhatta el ugyanezt.
Bryan Harris, a SAS technológiai igazgatója kiemelte: „Amikor az MI jól működik, hihetetlen hatást tud elérni.” Ugyanakkor rámutatott arra is, hogy a fejlett MI-ügynökök hibaaránya összetett feladatoknál meghaladhatja a 25 százalékot, ami elfogadhatatlan ott, ahol nagy a tét. Harris szerint a pontosság és a megbízható ismételhetőség érdekében be kell építeni a szakterületi tudást a munkafolyamatokba, és az irányítást, valamint a felügyeletet továbbra is embereknek kell kézben tartaniuk.
Chris Marshall, az IDC alelnöke hozzáfűzte: „Ahogy az MI egyre önállóbbá válik, a vállalatok új kihívással szembesülnek: olyan rendszerekben kell megbízniuk, amelyeket az emberek nem értenek teljesen.” Marshall szerint az erősebb felügyelet, a magyarázhatóság, az elszámoltathatóság és a szilárd adatalapok egyre inkább előfeltételei annak, hogy az MI-t nagy léptékben sikeresen lehessen bevezetni.
A magyarázhatóság és a felülbírálások költségei
A kutatás rávilágít, hogy számos szervezetnél a munkavállalók egyre kevésbé bíznak olyan rendszerekben, amelyek nem tudják megindokolni döntéseiket. Minél önállóbb egy MI-rendszer, annál nagyobb ez a kockázat, így a magyarázhatóság a siker kulcsa lehet. A dolgozók gyakran felülbírálják az MI döntéseit, és kézzel javítják az eredményeket; ez nemcsak bizalmi hiányt erősít, hanem időt, termelékenységet és pénzt emészt fel. Mivel az MI döntései azokra az adatokra támaszkodnak, amelyekre épülnek, a felülbírálások visszaszorításához először szilárd adatalapokra van szükség.
A jelentés konkrét megállapításai közül kiemelendő:
- A felhasználók 97,2 százaléka legalább időnként felülbírálja az MI ajánlásait.
- A dolgozók leggyakrabban azért bírálták felül az MI-t — függetlenül attól, hogy helyesnek tartották-e az eredményt —, mert a rendszer nem tudta megindokolni a döntését.
- A generatív MI iránti bizalom 76 százalékos, míg az MI-ügynökök (agentic AI) iránti bizalom csak 66 százalékos; vagyis minél önállóbb egy rendszer, annál nagyobb a bizonytalanság.
Megbízható MI és üzleti előnyök
A kutatás szerint növekszik a különbség azok között a vállalatok között, amelyek kiemelten kezelik a megbízható MI elveit, és azok között, amelyek nem. Azok a szervezetek, amelyek befektetnek a megbízható MI-be, 15-ször nagyobb eséllyel jelzik az erős vagy magas megtérülést (62% vs. 4%). Emellett a legmegbízhatóbb gyakorlatot követő vállalatok átlagosan 1,85-ször nagyobb nyereséget érnek el 13 különböző üzleti mutató — például árbevétel-növekedés, költségmegtakarítás és ügyfélélmény — tekintetében.
A jelentés szerint az élenjáró vállalatok 85 százaléka idén több mint 10 százalékkal növeli a megbízható MI-re fordított beruházásait, ami tovább növelheti előnyüket a versenytársakkal szemben.
Az adatinfrastruktúra hiányosságai visszavetik a teljesítményt
Sok szervezet még mindig fejletlen vagy elavult adatokra és adatinfrastruktúrára építi MI-megoldásait. A jelentés azt állapítja meg, hogy csupán 17,5 százalék rendelkezik teljesen optimalizált adatinfrastruktúrával, amely megfelel az MI-ügynökök igényeinek. Az optimalizált adatalappal rendelkező szervezetek négyszer nagyobb eséllyel várhatnak erős megtérülést az MI-projektekből, és hatszor nagyobb eséllyel alkalmaznak kötelező adatminőségi és magyarázhatósági ellenőrzéseket.
Eredmények iparáganként és a vizsgálat módszertana
A jelentés 2 699 döntéshozó megkérdezésén alapul, akik rálátnak vállalatuk adati- és MI-kezdeményezéseire, vagy befolyásolják azokat. A felmérés 28 országban készült, és négy kiemelt iparágra fókuszált: banki szektor, biztosítás, élettudományok és a közszféra. Néhány iparági tanulság:
- A vezető bankok nemcsak a szabályozási megfelelés miatt építenek szigorú irányítást az MI köré: 85 százalékuknak van irányítási keretrendszere, szemben a lemaradó bankok 29 százalékával.
- A közszféra élenjáró szervezeteinek 41 százaléka a következő évben több mint 20 százalékkal növeli a megbízható MI-re fordított beruházásokat.
- Az élettudományi vállalatok 23 százaléka már a teljes szervezetben bevezette az MI-t — ez az arány a legmagasabb az iparágak között.
Mit értünk megbízható MI alatt?
A jelentés szerint a megbízható MI olyan rendszereket takar, amelyeket úgy terveztek, hogy megbízhatóan, etikusan és biztonságosan működjenek, megfeleljenek a szabályozási követelményeknek, és világosan meg tudják mutatni, hogyan születtek döntéseik. A szervezeten belül előre rögzített felelősségi láncok mentén a felhasználók és a döntéshozók számon kérhetik a rendszereket hibás vagy hiányos eredmények esetén. Minden MI-rendszert szervezetirányítási elveknek kell alávetni, és egyértelmű szabályoknak kell megfelelnie.
Hogyan mérik az élenjárókat?
A kutatás során a szervezeteket a megbízható MI öt dimenziója mentén értékelték 100 pontos skálán: (1) adatminőség és adatirányítás, (2) modellirányítás és felügyelet, (3) magyarázhatóság és tisztességesség, (4) felelős MI-szabályzat, valamint (5) auditálhatóság és elszámoltathatóság. Azok a szervezetek számítanak élenjárónak, amelyek átlagosan legalább 80 pontot értek el.
A jelentés rávilágít: a megbízhatóságba való befektetés nem csupán megfelelőségi követelmény, hanem üzleti előny forrása — különösen, ha a vállalatok képesek szilárd adatalapokra, világos irányításra és magyarázhatóságra építeni az MI-megoldásaikat.
Képek forrása: SAS
