A CNN által feltárt eset szerint az Egyesült Államok hadserege az idei tavaszon szinte katonai akciót hajtott végre egy kínai teherhajó ellen egy mesterséges intelligencia (MI) által előállított, de valótlan hírszerzési jelentés alapján.
A jelentés azt állította, hogy a szóban forgó kínai teherhajó a Közel‑Keletre szállított olyan alkatrészeket, amelyek kapcsolhatók egy nukleáris fegyverprogramhoz; az iráni háborús feszültségek közepette ez az információ azonnali katonai reagálást váltott ki. Fegyveres egységek készültek a hajó megrohamozására, és katonai repülőgépek is felszálltak, ám az akciót végül az utolsó pillanatban lefújták, amikor a jelentés eredetét és tartalmát alaposabban megvizsgálták.
Kik és hogyan állították elő a hamis jelentést
A CNN szerint a jelentést a Különleges Műveleti Parancsnokság egyik elemzője terjesztette elő. Az elemző először egy chatbotot kérdezett meg a hajó rakományjegyzékéről szóló hírszerzési adatok feldolgozásához; a szoftver nyílt forrású és titkos jelfelderítési adatokat „összefésült”, majd téves következtetésre jutott. Ezt követően az elemző ismét MI‑t használt, hogy a chatbot által adott eredményeket a katonai vezetők által elfogadott szabványos hírszerzési jelentés formátumába öntse, és így terjesztette a hamis anyagot.
Nem tisztázott, hogy kereskedelmi forgalomban kapható chatbotot vagy kormányzati fejlesztésű eszközt alkalmaztak‑e. A CNN forrása szerint a jelentés „teljes egészében hamis” volt, és „majdnem háborút robbantott ki”.
Miért számít ez fontos figyelmeztetésnek
Az eset rávilágít arra a problémára, hogy az amerikai hadseregben és a szélesebb hírszerzési közösségben egyre több területen integrálják az MI‑t: nyers hírszerzési adatok elemzésétől és célpontkiválasztástól kezdve a költségvetés kezelésén át a logisztikáig. Pete Hegseth védelmi miniszter januárban ismertette a tárca MI‑akcelerációs stratégiáját, amelynek célja, hogy mintegy hárommillió katonai és civil alkalmazott számára az összes titkosítási szinten elérhetővé tegye az MI‑eszközöket.
A technológia bevezetése azonban decentralizált módon történik: különböző kormányzati szervek eltérő eszközöket és eltérő szabályokat alkalmaznak. Nincs egységes ellenőrzési szabvány az MI‑által generált információk felülvizsgálatára, ezért a különböző rendszerek megbízhatósága erősen hullámzó.
Az MI‑szolgáltatók által előállított úgynevezett „hallucináció” — amikor a rendszer magabiztosan, de hamisan ad meg információkat — nem elszigetelt jelenség a hírszerzésben az MI‑eszközök elterjedése óta. Tapasztaltabb hírszerzési tisztek szerint az MI használata nyomást helyez az elemzőkre a jelentések gyors előállítására, ami növeli a hibázás kockázatát; különösen a fiatalabb elemzők hajlamosak kritikátlanul elfogadni az MI‑eredményeket. Ahogy az egyik forrás összefoglalta: „az MI lehetővé teszi, hogy gyorsabban juss el egy rossz ötletig”.
Következmények és nyitott kérdések
A konkrét ügyben szerencsére nem következett be katonai csapás, de az eset komoly figyelmeztetésként szolgál az MI‑integráció határaival és kockázataival kapcsolatban. Nem tisztázott, hogy az ügy milyen belső vizsgálatokat indított az érintett katonai és hírszerzési szerveknél, illetve hoz‑e ez változásokat az MI‑eszközök elfogadási és ellenőrzési gyakorlatában. A CNN‑források és a nyilvános tájékoztatások egyelőre nem közöltek további részleteket arról, hogy pontosan milyen adatforrásokra támaszkodott a chatbot, vagy milyen belső protokollok hiányoztak a hibafelismeréshez.
A történet fontos tanulsága, hogy az MI növekvő szerepe a nemzetbiztonságban erősebb felülvizsgálati mechanizmusokat és egységes standardokat követel meg, különben egyetlen téves, de hitelesnek tűnő jelentés is súlyos következményekhez vezethet.
A cikk előkészítésében AI‑asszisztens működött közre; a végső tartalmat újságíró szerkesztette és ellenőrizte.
