Az idei tavaszon az Egyesült Államok katonai repülőgépei már a levegőben voltak, amikor a vezetés arra figyelt fel: az egyik, Kína ellen irányuló fegyveres műveletet előkészítő hírszerzési anyag lényegét egy AI-chatbot találta ki. A műveletet az utolsó pillanatban lefújták, ezzel elkerülve a potenciálisan eszkalálódó konfliktust, derítette ki a CNN pénteken közölt beszámolója.
Hogyan történt a tévedés
A tájékoztatás szerint a meghamisult jelentés az Iránnal folytatott háborús időszakban került forgalomba. Az állítás szerint a hajó olyan alkatrészeket szállított, amelyek egy nukleáris fegyverprogramhoz szükségesek lennének. A hamis információ egy Special Operations Command (Különleges Műveleti Parancsnokság) elemzőjétől indult, aki egy AI-chatbothoz fordult, hogy nyílt forrású adatokat összevonjon minősített (classified) jelzőadatokkal (signals intelligence).
A chatbot tévesen azonosította a hajó rakományát. Az elemző ezután ismét a chatbotot használta, hogy a hibás megállapításokból hivatalosnak tűnő összefoglalót formázzon, melyet aztán parancsnoki csatornákon keresztül terjesztettek. Csak a tervezett beavatkozás hajrájában fedezték fel a hibát, és törölték az akciót.
Miért fontos ez
Az eset rávilágít egy növekvő aggodalomra: ahogy a katonai vezetés egyre inkább AI-megoldásokra támaszkodik, az ezekből eredő hibák gyorsan feljuthatnak a parancsnoki lánc magasabb szintjeire, mielőtt emberi kontrollnak vetnék alá őket. A Pentagon igyekszik integrálni a mesterséges intelligenciát annak érdekében, hogy felgyorsítsa a döntéshozatalt és megőrizze előnyét Kínával szemben; a tárca az AI-t a „kill chain” felgyorsításában nyújtott jelentős előnnyel hozta összefüggésbe.
Ugyanakkor az a sebesség, amely miatt az AI vonzó a katonai alkalmazásoknál, éppen lehetővé teheti, hogy a chatbotok „hallucinációi” elégtelen emberi felügyelet mellett kritikus döntésekhez vezessenek.
Szakértői reakciók és javaslatok
Jake Steckler, a GovAI kutatási munkatársa és egyben volt amerikai hadseregtiszt, a TechCrunch-nak írt válaszában hangsúlyozta: „Fontos, hogy a szolgálatban lévők megértsék az LLM-ek bizonytalanságát. De ez különösen kritikus minden olyan döntésnél, amely erő alkalmazásához vezethet, mint például a célmeghatározás, hírszerzés-elemzés vagy műveleti tervezés. Ezeknek a döntéseknek élet-halál következményei vannak.”
Steckler szerint az incidens nem a technológia elutasítására kell, hogy ösztönözzön, hanem arra, hogy további védőintézkedéseket vezessenek be az AI használatában. „Ezek az eszközök megfelelő környezetben és megfelelő biztosítékokkal hasznosak lehetnek. De ha a bevezetés gyorsaságát mindenek fölé helyezik, olyan esetekhez vezethet, amelyek csak rontják a szolgálatban lévők bizalmát a rendszerekben, és ez végső soron a lassabb elterjedéshez vezet.”
Következtetés
A tavaszi incidens arra emlékeztet, hogy a katonai döntéshozatalba beépülő AI-rendszerek nyújtotta sebesség és hatékonyság komoly előny lehet, de csak erős emberi ellenőrzéssel és technikai garanciákkal együtt. A Pentagon törekvései és a szakértők figyelmeztetései egyaránt azt mutatják: a biztonsági protokollok fejlesztése és a fokozott óvatosság kulcsfontosságú, különösen olyan döntéseknél, amelyek nemzetközi konfliktushoz vezethetnek.
