A háború ukrajnai frontvonalain szétszórt drónromok azt jelzik, hogy az unmanned aerial systemek (UAS) a modern hadviselés meghatározó eszközeivé váltak. Azonban a roncsoknál is tartósabb értéket képvisel az a hatalmas mennyiségű adat, amelyet ezek a gépek minden egyes repülés során gyűjtenek: képek, videók, szenzoradatok és az emberi operátor bemenetének rögzítései. Ezek az adatok nem csupán pillanatfelvételek, hanem azt is megmutatják, hogyan reagált egy gép és egy ember változó, gyakran kaotikus körülmények között.
Mit tett Ukrajna?
Ukrajna védelmi minisztériuma januárban bejelentette, hogy a tízezres nagyságrendű drónrepülés során gyűjtött több millió adatpontot hozzáférhetővé teszi katonai beszállítók és kereskedelmi vállalatok számára. Azóta több mint 100 cég és az Egyesült Királyság kormánya szerzett hozzáférést ezekhez az adatkészletekhez. Egy háborús állam számára ez gyors út a források és partnerségek bevonzásához, ugyanakkor ezzel a frontvonal aktív modelltréning-helyszínné válik: a háború okozta extrém és kiszámíthatatlan eseményeket az AI-fejlesztők nehezen tudnák laborban reprodukálni.
Miért értékesek ezek az adatok?
A mesterséges intelligencia-tréningben különösen értékesek az ún. kivételes helyzetek — amikor eltűnik a látótávolság, megszűnik egy kapcsolat, vagy az emberi operátor improvizál. Ezek megsokszorozódnak a harctéren, ahol az ellenőrzött kísérleti feltételek sosem tudják ilyen gyakorisággal előállítani őket. Ennek következtében a háborús drónadatok olyan „gépi tapasztalatot” nyújtanak, amelyet más forrásokkal nehéz vagy költséges megszerezni.
A fronton keletkezett adatok a katonai alkalmazásokon túl kereskedelmi felhasználásokhoz is hozzájuthatnak: például olyan autonóm drónok fejlesztéséhez, amelyek rossz jelzésű vagy információhiányos környezetben is működni tudnak — olyan problémák, amelyek a polgári drónok számára is relevánsak, például csomagszállítás vagy tájtérképezés során.
Piaci szereplők és nagyságrend
Az amerikai Enabled Intelligence nevű cég azt állítja, hogy már több mint félmillió órányi ukrajnai drónfelvételt tett elérhetővé a modellek következő generációjához, felajánlva ezek felhasználását katonai és kereskedelmi rendszerekben egyaránt. A gyakorlat tehát nem csak gyakorlatias adatgyűjtés: komoly gazdasági értéket teremt a védelmi ipar számára.
Kockázatok: titoktartás, származás és jóváhagyás hiánya
Bár már léteznek kontrollok a vásárlók vizsgálatára — hogy megakadályozzák a „rossz szándékú” szereplők hozzáférését — a tréningadatok származásának követhetősége problémás. A kereskedelmi adatmozgásoknál megszokott nyomon követési módszerek nem alkalmazhatók közvetlenül az AI-tréning adatkészletekre: miután egy adathalmaz beépül egy modellbe, a forrás eredete sokszor „eltűnik” a technológiába ágyazódva.
Egy további etikai kérdés a beleegyezés hiánya. A harci felvételeken szereplő katonák, civilek vagy célpontok nem járultak hozzá, hogy személyes adataikat később tréninganyaggá alakítsák, amely évek alatt kereskedelmi termékekben jelenhet meg. Az ebből eredő hibák, téves következtetések és torzítások ugyanúgy átterjedhetnek polgári alkalmazásokra.
Szabályozási üres tér és javasolt lépések
A jelenlegi nemzetközi és nemzeti jogok meghatározzák a háborúvezetés szabályait, de jellemzően nem foglalkoznak azzal, mi történik azzal az adattal, amelyet a harc közben rögzítenek, majd „adattá csomagolva” kiadnak. Nincs önálló hatóság vagy szabályozási keret, amely kifejezetten erre a problémára kiterjedne.
Szakértők és egyes kormányok már lépéseket tesznek: az Egyesült Királyság és Ukrajna között aláírt AI-egyezmény említi az Ukrajna által épített hozzáférés-ellenőrzéseket, és Ukrajna Avengers Labs nevű programja lehetővé teszi, hogy cégek modelleket tanítsanak a harci adatokon anélkül, hogy közvetlenül hozzáférnének a szenzitív adatbázisokhoz. Ezek a megoldások azonban csak részben enyhítik a problémát.
A szerződésekhez és engedélyekhez hasonlóan a háborús adathozzáféréseket a fegyverátadásokéhoz hasonlóan kellene kezelni: részletes eredettörténettel, felhasználási engedélyekkel és továbbosztási korlátozásokkal. Emellett kormányoknak kötelezniük kellene a nyilvánosságra hozatalt, amikor háborús anyagokon tréningezett modelleket később polgári termékekbe integrálnak, így láthatóvá téve az adat útját a fronttól a kereskedelemig.
A fő kérdés
A háborús drónadatokból kialakuló ipar nem pusztán azt hozza fel, hogy a technológiai vállalatok mit adhatnak el hadviselésre. Arról is szól, mit vonnak ki és milyen feltételekkel: tapasztalatot, emberi sorsokat és frontvonalak által előidézett kivételes helyzeteket. Ezért elengedhetetlen egy olyan szabályozási rendszer megalkotása, amely követi az adatokat minden lépésükön át — a harctértől a modellig és onnan a polgári termékig.
Cory Alpert, a University of Melbourne kutatója, aki az MI demokráciára gyakorolt hatását vizsgálja és korábban a Biden-kormányzatban dolgozott, ezt a problémát dolgozta fel és emelte szakpolitikai figyelem középpontjába.
