A Pénzügyi Stabilitási Tanács (Financial Stability Board, FSB) legfrissebb jelentésében határozottan javasolja, hogy a pénzügyi intézmények építsenek be védelmi mechanizmusokat a mesterséges intelligencia, különösen az úgynevezett AI-ügynök alapú rendszerek kockázatainak kezelésére. Az FSB figyelmeztetése szerint az autonómabbá váló mesterségesintelligencia-rendszerek felerősíthetik a pénzügyi rendszer kockázatait, miközben a technológia elterjedése a szektorban felgyorsult.
Milyen rendszerekről van szó és hol használják őket?
Az AI-ügynök alapú megoldások olyan rendszerek, amelyek korlátozott emberi felügyelet mellett képesek tervezni, következtetni és feladatokat végrehajtani. Az FSB megállapítása szerint ezek a megoldások már ma is jelen vannak a pénzügyi szektorban: alkalmazzák őket csalásfelderítésre, ügyfélszolgálati feladatokra és háttérműveletek ellátására.
A Cambridge-i Alternatív Pénzügyi Központ (Cambridge Centre for Alternative Finance) felmérése alapján a pénzügyi szektorbeli válaszadók 52 százaléka jelezte, hogy aktívan használ AI-ügynökalapú megoldásokat. Ezen belül 23 százalék már szervezeti szinten alkalmazza a technológiát, míg 29 százalék jelenleg teszteli azt próbaüzemben.
Milyen kockázatokat emel ki az FSB?
Az FSB hangsúlyozza, hogy az autonóm mesterséges intelligencia „rendkívül gyorsan valósággá váló” kockázatokat hordozhat. A jelentés konkrét kockázatokként említi:
- jogosulatlan vagy jogellenes műveletek végrehajtását;
- adatszivárgást;
- az összekapcsolt rendszerek működési zavarait és másodlagos hatásokat.
Különös figyelmet kap, hogy az intelligens ügynökök sajátos nehézséget jelentenek az emberi felügyelet szempontjából: előfordulhatnak olyan lépések, amelyek eltérnek a szervezet szándékaitól, és amelyeket a munkatársak nem feltétlenül észlelnek időben vagy nem tudnak közbeavatkozással megállítani.
Az FSB megemlíti azt a piacreakciót is, amelyet az Anthropic Mythos nevű rendszere váltott ki: a szabályozó hatóságok és nemzetközi szabványalkotó szervezetek azóta határozottabban figyelmeztetnek a lehetséges veszélyekre.
Az FSB ajánlásai és a véleményezési határidő
A testület nem kötelező érvényű iránymutatásokat tett közzé, amelyeket a nyilvánosság július 22-ig véleményezhet. Az ajánlások legfontosabb elemei a következők:
- A pénzügyi intézményeknek egyértelmű határokat kell szabniuk az AI alkalmazásának és dokumentálniuk kell, mely feladatokra használják az AI-ügynököket.
- Megfelelő védelmi mechanizmusokat kell beépíteniük a rendszerekbe a jogosulatlan műveletek, adatszivárgás és rendszerszintű hatások csökkentése érdekében.
- Magas kockázatú műveleteknél, például bizonyos összeghatár feletti pénzügyi tranzakcióknál kötelező emberi jóváhagyást kell előírni.
- A jelentés figyelemre méltó javaslata, hogy a vállalatok vizsgálják meg az AI-ügynökök munkavállaló-szerű kezelésének lehetőségét: az emberierőforrás-ellenőrzések és a kapcsolódó belső folyamatok kiterjesztése az AI-ügynökökre hozzájárulhat a kockázatok csökkentéséhez.
Miért fontos ez a pénzügyi szektor számára?
Az FSB megállapításai azért lényegesek, mert a pénzügyi rendszerek összekapcsoltsága és a nagy volumenű tranzakciók miatt a hibák vagy rosszindulatú események gyorsan rendszerszintű hatásokhoz vezethetnek. Az AI-ügynökök önálló viselkedése és a megfigyelésük körüli nehézségek különösen kockázatossá teszik az ilyen technológiák széleskörű alkalmazását a banki és pénzügyi szolgáltatásokban.
Az FSB javaslatai nem jogszabályi kötelezettségek, de iránymutatásként szolgálhatnak a szabályozók és piaci szereplők számára a technológia biztonságosabb bevezetéséhez és működtetéséhez.
A jelentés és az ajánlások véleményezési folyamata további vitákat indíthat arról, milyen mértékű emberi kontroll és milyen jellegű belső ellenőrzések szükségesek az AI-ügynökök biztonságos integrációjához a pénzügyi szektorba.
