A CNN-nek egy forrás szerint az Egyesült Államok hadereje idén tavasszal kész volt elfogni egy kínai hajót a Közel-Keleten, miután egy mesterséges intelligencia chatbot tévesen azonosította a fedélzeten lévő anyagokat — ez az incidens a forrás szerint „majdnem háborút indított”.
Elemzők óvatosságra intenek: ha a mesterséges intelligencia szétszórtan, gondatlanul épül be védelmi rendszerekbe, az könnyen katasztrofális félreértésekhez vezethet. A CNN-nek nyilatkozó eset rávilágít arra a kockázatra, hogy adat- vagy azonosítási hibák gyorsan eszkalálódhatnak, ha katonai döntéshozatalban AI-alapú javaslatok kapnak szerepet.
Az automatizált harctér gyorsuló veszélye
A Stanford University közelmúltbeli hadjátékai is azt mutatták be, hogy a csatatér fokozatosan egyre inkább automatizálttá válik, ami felgyorsítja a háborús folyamatokat és megrövidíti a beavatkozásra rendelkezésre álló időt. Az ilyen feltételek mellett a konfigurációs vagy azonosítási hibák rövidebb idő alatt vezethetnek szélesebb körű és gyorsabb eszkalációhoz, mint ahogy az eredetileg a parancsnokok szándéka lett volna.
Bár a legtöbb hadsereg továbbra is megköveteli az emberi szereplőt a döntési láncban, vannak olyan problémák, amelyeknél az AI túlterhelt javaslatai akadályozzák a humán reagálást. Egy amerikai drónharci veterán a Financial Timesnak elmondta: „a számítógép kidob egy 1000 célpontból álló listát. És te nem mozogsz elég gyorsan. Az ember válik a szűk keresztmetszetté.”
Miért számít ez?
A CNN-nek megszólaló forrás esete és a Stanford hadjátékai közös üzenete az, hogy a technológiai újítások bevezetésénél a pontosság, ellenőrzés és a humán felülvizsgálat megléte létfontosságú. Ha ilyen garanciák hiányoznak, egy-egy automatizált hiba nem csupán helyi incidens marad, hanem nem szándékolt diplomáciai vagy katonai konfliktussá fajulhat.
(Közreműködő források: CNN, Stanford University, Financial Times) — Brendan Ruberry
