A CNN négy, az ügyet ismerő forrására hivatkozva arról számolt be, hogy az amerikai hadsereg az idei tavasz folyamán majdnem megkezdte egy kínai hajó feltartóztatását, miután egy hírszerzési jelentés szerint a Közel-Keleten közlekedő hajó olyan alkatrészeket szállított, amelyek nukleáris fegyverprogramhoz használhatók.
A jelentés elolvasása után a hadsereg intézkedéseket tett a hajó feltartóztatására: fegyveres katonák készültek a fedélzetre lépni, és katonai repülőgépeket emeltek a levegőbe. Nem sokkal a tervezett művelet előtt azonban a tisztviselők újra átvizsgálták az anyagot, és kiderült, hogy a jelentés elkészítéséhez mesterséges intelligenciát használtak.
Egy különleges műveleti parancsnokság elemzője chatbot segítségével dolgozta fel a hajó rakományjegyzékére vonatkozó hírszerzési információkat; a rendszer tévesen azonosította a szállított anyagot. A CNN nem tudta megállapítani, mi volt valójában a hajón. Egy forrás szerint a jelentés egészében hamis volt, és az eset könnyen fegyveres konfliktussá eszkalálódhatott volna Kína és az Egyesült Államok között.
Az érintett elemző először a chatbotot használta az amerikai csendes-óceáni különleges műveleti parancsnokságtól származó, a hajó rakományjegyzékére vonatkozó hírszerzési adatok értékeléséhez. Nem lehet tudni, hogy kereskedelmi forgalomban elérhető MI-rendszert vagy amerikai kormányzati megoldást használt-e. A chatbot nyílt forrású adatokat és titkos amerikai hírszerzési információkat kombinált, és ezekből hibás következtetésre jutott. Az elemző ezután ismét MI-t alkalmazott, hogy az eredményt a hadseregben szokásos hírszerzési jelentés formátumába rendezze, majd továbbítsa azt.
Az eset jelentőségét az adja, hogy az amerikai hadsereg és a hírszerzési közösség egyre szélesebb körben alkalmazza a mesterséges intelligenciát: a nagy mennyiségű hírszerzési adat elemzésétől és katonai célpontok kiválasztásától kezdve a logisztikáig és a költségvetési feladatokig sok területen használják.
Pete Hegseth védelmi miniszter az év elején bejelentett stratégiájának részeként a Pentagon MI-használatának felgyorsítását tűzte ki célul; ennek egyik célja, hogy a technológia a tárca mintegy hárommillió katonai és civil alkalmazottja számára hozzáférhető legyen.
A CNN forrásai szerint az MI bevezetése azonban meglehetősen decentralizáltan zajlik: a hadsereg és a hírszerzés különböző szervezetei eltérő rendszereket, biztonsági szabályokat és ellenőrzési eljárásokat alkalmaznak. Nincs egységes előírás arra, hogyan kell felülvizsgálni az MI által előállított információkat, ami különösen kockázatos a katonai célpontok kiválasztásánál, ahol egy hibás következtetés halálos következményekkel járhat.
Több tisztviselő arra hívta fel a figyelmet, hogy nincs világos iránymutatás arra sem, miként biztosítsák az emberi ellenőrzést úgy, hogy elkerüljék a civil áldozatokat vagy saját erők elleni téves támadásokat. A kínai hajó esete nem volt az egyetlen olyan alkalom, amikor az MI „hallucinációja” problémát okozott az amerikai hírszerzésben: több forrás attól tart, hogy a technológia bevezetése a gyorsabb elemzés és jelentéskészítés iránti nyomást is növeli, miközben a fiatalabb elemzők hajlamosabbak lehetnek kritikátlanul megbízni a rutinszerűen használt rendszerekben. Egy forrás összegzése szerint az MI lehetővé teszi, hogy az ember gyorsabban jusson el egy rossz ötlethez.
