Egy hírszerzési jelentés téves megállapítása majdnem fegyveres művelethez vezetett egy kínai hajó ellen, miután az elemzés azt állította, hogy a rakomány nukleáris fegyverprogramhoz kapcsolódó anyagokat tartalmaz. A CNN négy, az eseményeket ismerő forrásra hivatkozó beszámolója szerint az amerikai hadsereg készültségbe helyezte erőit, a tervezett beavatkozás előtt azonban további ellenőrzés derítette ki a hibát: a jelentést mesterséges intelligencia-alapú chatbot állította össze, és az tévesen azonosította a hajó rakományát.
Mi történt pontosan?
- A hibás információ az amerikai különleges műveleti parancsnokság (US Special Operations Command) egyik elemzőjétől származott, a forrás szerint a csendes-óceáni részleg (Hawaii központtal) adatait használták fel.
- Az elemző egy MI-chatbot segítségével lekérdezett hajózási adatokat, majd — a rendelkezésre álló nyílt forrású információkat titkos amerikai jelekből származó hírszerzési adatokkal kombinálva — a chatbot arra a következtetésre jutott, hogy a hajó veszélyes, nukleáris programhoz köthető anyagot szállít.
- Az eredményt ugyanaz az elemző ismét MI-vel alakította át a hadsereg szokásos formátumú hírszerzési jelentésévé, amelyet továbbítottak a döntéshozók felé.
- A tervezett műveletre tényleges katonai erők készültek: a CNN forrásai szerint fegyveres amerikai katonák készültek a hajó átkutatására, katonai repülőgépek pedig a levegőben voltak.
- A jelentés további átellenőrzésekor azonban kiderült, hogy a dokumentum „teljes egészében hamis” volt; egy forrás szerint az eset „majdnem háborút indított”.
Miért volt különösen veszélyes az eset?
A kínai hajó amerikai katonai erővel történő feltartóztatása könnyen eszkalációhoz vezethetett volna, amely közvetlen fegyveres konfliktussá romolhatott volna az Egyesült Államok és Kína között. Az ügy rávilágít arra a kockázatra is, hogy egy MI-chatbot „hallucinációja” — azaz magabiztosan közölt, de valótlan információ — is súlyos katonai következményekkel járhat.
Az MI gyors bevezetése a hadseregben
Az eset olyan időszakban történt, amikor az amerikai hadsereg és a hírszerző közösség egyre több területen vezet be mesterséges intelligenciát: nagy mennyiségű hírszerzési adat elemzésére, célpontkiválasztásra, illetve katonai eszközök és logisztika koordinálására. A technológia bevezetésének egyik fő érve, hogy felgyorsítja a döntéshozatalt, és a Pentagon szerint az Egyesült Államok hátrányba kerülhet, ha riválisok, például Kína fejlettebb MI-rendszereket alkalmaznak.
Pete Hegseth amerikai védelmi miniszter januárban mutatta be az Artificial Intelligence Acceleration Strategy nevű stratégiát, amely célul tűzte ki a bürokratikus akadályok lebontását, az kísérletezés ösztönzését, és fejlett MI-modellek széles körű hozzáférhetővé tételét a védelmi tárca mintegy hárommillió katonai és civil munkatársa számára.
Veszélyek és hiányosságok
A CNN-hez forduló amerikai tisztviselők szerint a MI-eszközök bevezetése meglehetősen decentralizált: a kormányzat különböző részei eltérő eszközöket és biztonsági előírásokat alkalmaznak, és nincs egységes eljárás arra vonatkozóan, hogyan kell ellenőrizni az MI által előállított információkat. A hírszerzési „hallucinációk” — a magabiztos, de hamis állítások — nem egyedi jelenségek az MI-rendszerek esetében; több hasonló példa történt már korábban is.
Források szerint különösen veszélyes lehet, ha az MI gyorsítja a döntéshozatalt, de lerövidíti az ellenőrzési folyamatokat: a fiatalabb elemzők hajlamosabbak lehetnek kritikátlanul elfogadni az új eszközök eredményeit. Egy megfogalmazás szerint „az MI segítségével gyorsabban el lehet jutni egy rossz ötlethez.”
Válaszok és nyilatkozatok
A Pentagon és az amerikai különleges műveleti parancsnokság a CNN megkeresésére nem kommentálta az esetet. A történés egy szélesebb vitába illeszkedik arról, hogy milyen ütemben és milyen biztonsági szabályok mellett szabad a katonai alkalmazásokba MI-t bevezetni.
Kapcsolódó aggodalmak az iparból
Nemrég több hír is foglalkozott azzal, hogy az Anthropic vezetői szerint a fejlett MI-k hosszabb távon akár az emberiség létét is veszélyeztethetik. Dario Amodei, az Anthropic vezérigazgatója a cég álláspontja szerint lassításra szólított fel az új modellek fejlesztésében a növekvő „súlyos” kockázatok miatt.
Következtetés
A CNN által ismertetett eset világosan rámutat arra, hogy a mesterséges intelligencia katonai alkalmazása jelentős előnyöket kínálhat a gyorsabb elemzés és döntéshozatal terén, ugyanakkor súlyos kockázatokat rejt, ha az MI által szolgáltatott információk hibái nincsenek megfelelően felülvizsgálva. Az esemény egyben sürgeti az egységes szabályozás és szigorú ellenőrzési mechanizmusok kialakításának szükségességét a katonai MI-alkalmazásokban.
