A CNN értesülései szerint egy mesterséges intelligencia (AI) által előállított katonai elemzés majdnem egy amerikai katonai beavatkozáshoz vezetett: egy kínai, a Közel-Kelet felé tartó hajó átvilágítását kezdték eltervezni a jelentésre reagálva. Az akciót azonban az indítás előtti utolsó pillanatban leállították, miután újraellenőrzés során kiderült, hogy az AI hibás következtetésre jutott.
Mi történt
Egy névtelen katonai elemző a hajó rakományjegyzékének értelmezésére AI-eszközt vetett be. A mesterséges intelligencia, amely titkos és nyílt forrású információkat vetett össze, arra a következtetésre jutott, hogy a hajó valószínűleg nukleáris fegyverekhez tartozó alkatrészeket szállít. Az elemző ennek alapján hagyományos katonai hírszerzési jelentést készített, de a CNN szerint a jelentésben foglalt következtetéseket nem ellenőrizték többszörösen.
A jelentést a megszokott csatornákon továbbították, és a benne foglaltak erős riadalmat keltettek: helyszíni átvizsgálás tervezése kezdődött, fegyveres egységek készültek az akcióra, és bevetésre szánt repülőgépek már felszálltak. Végül a művelet megkezdése előtt az információkat még egyszer átvizsgálták; ekkor derült ki, hogy az AI tévedett, ezért az akciót leállították.
Miért fontos ez
Ha a bevetést végrehajtották volna, az jelentős diplomáciai és nemzetközi konfliktust idézhetett volna elő. A történet rámutat két kulcskérdésre:
-
Az AI „hallucinációja”: a mesterséges intelligencia alkalomszerűen téves információkat generálhat, különösen ha valós adatok és hamis megállapítások keverednek. Az ilyen hibák felismerése különösen nehéz, ha az automatikusan előállított jelentés valós elemeket is tartalmaz.
-
Ellenőrzési és eljárásbeli hiányosságok: a CNN szerint az Egyesült Államok haderején belül jelenleg nincs egységes, kötelező érvényű iránymutatás az AI által előállított információk katonai ellenőrzésére és hitelesítésére. Emellett az eset azt is szemlélteti, hogy az emberi felülvizsgálat beiktatása önmagában nem feltétlenül elég, ha a vizsgálat nem elég alapos.
Következtetések
Az eset rávilágít arra, hogy az AI egyre nagyobb szerepet kapó eszköz a katonai hírszerzésben komoly kockázatokat is hordozhat, ha a rendszerek kimeneteit nem ellenőrzik megfelelő, egységes eljárások szerint. A hibák elkerüléséhez nem csak technikai javításokra, hanem működési szabályok és ellenőrzési protokollok bevezetésére is szükség van annak érdekében, hogy a félrevezető automatikus következtetések ne vezessenek önálló katonai döntésekhez.
