Az Anthropic közlése szerint egy orosz szabadúszó csoport a vállalat Claude nevű mesterséges intelligencia modelljét használta különböző, a háborúhoz kapcsolódó tevékenységekhez: propagandaterjesztésre, kémkedésre, katonai vagy kettős felhasználású eszközök beszerzésére, valamint autonóm drónrajok fejlesztésére.
DronDoc / Serafim: autonóm drónraj szoftver
A támadók a Claude-ot felhasználva dolgozták ki a „DronDoc” vagy „Serafim” néven említett autonóm harci drónraj szoftver egyes komponenseit. A fejlesztés során a csapat a Claude Code-ot használta olyan funkciók kifejlesztésére, amelyek rajkoordinációt és számítógépes látáson alapuló célfelismerést biztosítanak. A jelentés szerint ezek a megoldások lehetővé tették, hogy a drónok emberi közreműködés nélkül válasszanak ki célpontokat — embereket is beleértve — és hajtsanak végre támadásokat.
A rendszer betanításához a fejlesztők ukrajnai harci felvételeket használtak, szimulált küldetésekhez pedig ukrajnai helyszíneket választottak. A szoftvert beültették drónhardverekre is, bár az Anthropic nem közölte, hogy ezekkel végül terepi teszteket hajtottak-e végre.
A földrajzi korlátozásokat a csoport VPN-ek segítségével kerülte meg, ami lehetővé tette számukra, hogy a Claude szolgáltatásait elérjék, annak ellenére, hogy Oroszországot a háború kezdete óta számos nyugati technológiai eszköztől és szolgáltatástól eltiltották.
Kémkedés és több mint húsz célpont
Az Anthropic jelentése szerint a vizsgált csoport a Claude-ot kémtevékenységre is használta: adatlopásra, adathalász- és egyéb rosszindulatú műveletek előkészítésére. Ez a tevékenység több mint 20 szervezetet célozott meg, köztük ukrán és európai kormányzati, katonai, hírszerzési és védelmi intézményeket.
Propaganda és egyéb visszaélések
A csoport a Claude-ot propaganda előállítására is alkalmazta: például oroszbarát tartalmak készítésére a Közép-afrikai Köztársaság célközönségének. Az ilyen felhasználások rávilágítanak arra, hogy a nyelvi modellek hogyan segíthetik a politikai befolyásolást és információs műveleteket.
Anthropic lépései és a felelősség kérdése
Miután az Anthropic a tevékenységet fegyverfejlesztési kísérletként azonosította, felfüggesztette a csoporthoz köthető fiókokat, és a szerzett tapasztalatokat beépítette biztonsági protokolljaiba. A cég azt állítja, elegendő információt gyűjtött az elkövetőkről ahhoz, hogy megállapítsa: nem állami kötődésű hackerek követték el a visszaéléseket, de a vállalat nem nevezte meg, mely szervezethez vagy intézményhez tartoztak ezek a szereplők.
Ugyanakkor az Anthropic talált olyan tevékenységet is, amelyet Moszkva által támogatott szereplőkhöz kötött: ezek a műveletek kémkedésre és egyéb rosszindulatú támadások indítására irányultak.
Bár az Anthropic beavatkozásai megnehezítették a csoport további munkáját, a nyilvánosságra hozott adatokból egyértelműen látszik, hogy a Claude modellel folytatott munka hozzájárult ahhoz, hogy a csoport előrelépjen az autonóm drónraj fejlesztésében.
Miért fontos ez?
Az ügy rámutat arra, hogy a fejlett nyelvi modellek és fejlesztőeszközök visszaélésének kockázata nem merül ki a beszéd- vagy szövegalkotási visszaélésekben: ezek a technológiák közvetlenül hozzájárulhatnak katonai célú rendszerek, köztük autonóm fegyverrendszerek fejlesztéséhez is. A történet továbbá újra előtérbe helyezi a szolgáltatók felelősségét a hozzáférés és a visszaélések megakadályozása terén, valamint a nemzetközi szabályozás és együttműködés szükségességét.
Nyitóképünk illusztráció.
