A vállalatok, függetlenül az iparágtól vagy szervezeti mérettől, intenzíven igyekeznek kihasználni a mesterséges intelligencia (AI) kínálta lehetőségeket a működési kiválóság, a munkavállalói elkötelezettség és a költséghatékonyság javítása érdekében. Ez azonban csak akkor hozza meg a várt előnyöket, ha a technológiához kapcsolódó kockázatokat tudatosan feltárják és kezelik; ennek hiányában a szervezeteket súlyos következmények érhetik, például a részvényesi bizalom vagy az ügyfélelégedettség csökkenése, valamint jogszabályi megfelelés hiányából eredő anyagi és reputációs károk.
A silós bevezetés kockázatai
Az AI „aranyláz” kezdeti időszakában a szervezetek jelentős nehézségekkel szembesülhetnek, ha különböző üzleti területek szigetszerűen, egymástól elszigetelten vezetnek be AI‑megoldásokat. Ennek fő problémái:
- nincs egységes, következetes értékelés az egyes alkalmazások és az egész AI‑portfólió kockázatairól;
- hiányozhatnak a munkaköri szerepekre szabott AI‑ismeretek;
- sérülhet a koordináció az AI‑kockázatok kezelésében részt vevő kulcsfontosságú csapatok – például adat-, biztonsági és compliance funkciók – között.
Ezek együtt azt eredményezhetik, hogy a szervezet „vakon fut”, és az AI incidensek váratlanul, súlyos következményekkel jelentkeznek.
Kulcskérdések, amelyeket érdemes feltenni
A vállalati döntéshozóknak és vezetőknek érdemes őszintén megválaszolniuk például a következőket:
- Van-e olyan funkció vagy szerepkör, amely átlátja a meglévő és tervezett AI‑kezdeményezéseket, illetve képes azonosítani az engedély nélküli AI‑használatot?
- Figyelembe vettük‑e az EU AI Act és más interdiszciplináris jogszabályok követelményeit az AI‑felhasználási területek és a bevezetés mentén?
- Értik‑e a munkavállalók a szerepkörüket érintő AI‑használatra vonatkozó szabályokat és az azzal járó kockázatokat?
Az őszinte válaszok alapján érdemes újragondolni a mesterséges intelligencia rendszerek fejlesztésének, bevezetésének és működtetésének felügyeleti és irányítási struktúráit, valamint újraosztani a kapcsolódó felelősségeket.
Mit jelent a jó AI‑irányítás?
Egy működőképes AI Governance keretrendszer létrehozása komoly feladat. A sikeres rendszer elemei közé tartoznak:
- a jogi, technológiai, etikai és egyéb kockázati szempontok átfogó ismerete;
- az adatvagyon‑gazdálkodás és az információbiztonság érettsége;
- egy koordinációs modell, amely támogatja az érintettek közötti kapcsolatokat, a hatékony kommunikációt, az incidenskezelést és az információmegosztást;
- jól dokumentált folyamatok, hogy a szervezet valós idejű ismeretekkel rendelkezzen az AI‑portfólióhoz kapcsolódó kockázatokról.
Elérhető útmutatók és a gyakorlati megfontolások
A jó irányítási gyakorlatokat támogató anyagok ma már széles körben hozzáférhetők: elérhetők a szabályozók weboldalain, az AI‑modell szolgáltatók platformjain, a NIST AI kockázatkezelési útmutatóiban, az ISO/IEC AI‑menedzsmentre és AI‑kockázatkezelésre vonatkozó szabványaiban, valamint az OECD AI‑irányelveiben. Ugyanakkor ez a sok iránymutatás bonyolulttá teheti a megvalósítást, és sok szervezet hajlamos túlságosan komplex, aránytalanul bürokratikus folyamatokat bevezetni.
A PwC szakértői hangsúlyozzák, hogy az AI Governance kialakításakor figyelembe kell venni a vállalati sajátosságokat: a szervezeti kultúrát, az ügyfelek karakterisztikáit, a telepített AI‑modellek és a tervezett felhasználási esetek kockázatait, valamint az iparági szabályozásokat és az EU AI Act elvárásait.
Hol érdemes kompromisszumot keresni?
Az AI gyors terjedésével a mögöttes irányítási struktúrák gyakran lassabban alakulnak. A legnagyobb kihívás az arany középút megtalálása: szabályozni kell az AI‑t, de úgy, hogy az ne akadályozza a szervezeti innovációt és fejlődést. Ehhez világos iránymutatásra van szükség arról, hogy a dolgozók mire használhatják a technológiát és mire nem; enélkül a dolgozók saját megoldásokkal kísérleteznek, amelyek elszigetelten működve további kockázatot jelentenek.
Mely csapatokra támaszkodjanak a szervezetek?
Sok szervezet az adatkormányzási vagy adatvédelmi csapatokra építve, azok meglévő gyakorlatait integrálva alakítja ki az AI Governance‑t, azaz az MI‑rendszerek felügyeletét. A PwC Responsible AI Insights cikksorozatának technológiai szakértői gyakorlati szempontokat osztanak meg az AI Governance kialakításához és a kapcsolódó kockázatok megértéséhez.
Az AI Governance‑szel megbízott vezetők ezeket a tanácsokat saját szervezeti környezetükhöz és összetettségükhöz igazítva fejleszthetik az AI kockázatkezelési és irányítási folyamataikat, hogy az AI‑használat etikusan, fenntartható módon és valós üzleti értéket teremtve valósuljon meg a szervezetnél.
