Az Anthropic csütörtökön közzétett fenyegetettségi jelentése szerint állami szereplőkhöz köthető műveletek világszerte Claude mesterséges intelligencia-modelleket alkalmaztak megfigyelési műveleteik hatékonyságának növelésére.
Mit talált a jelentés
-
A vizsgált esetek között Mali, Kína és Irán szerepeltek: Anthropic azt észlelte, hogy ezekben az országokban különböző Claude modelleket (Claude Haiku, Sonnet és Opus) használtak megfigyelési feladatokhoz. A jelentés szerint nem volt szükség a cég legújabb Fable vagy Mythos osztályú modelljeire a jelentős kibővítéshez.
-
Maliban egyetlen, a nemzetbiztonsági hatóságoknak dolgozó tanácsadó Claude-t használva hozott létre rendszert, amely az ország mobilszolgáltatóitól gyűjt adatokat és személyi aktákat épít a megfigyelt személyekről.
-
Iránban Anthropic dokumentált egy esetet, amelyben szereplők Claude segítségével egy rosszindulatú Firefox böngészőbővítményt fejlesztettek és terjesztettek; a bővítmény a jelentés szerint közösségi hálózatokról gyűjtötte össze a felhasználói azonosságokra vonatkozó adatokat.
-
Kínában egy vallási ügyekkel foglalkozó hírszerzési iroda azzal számolt be, hogy korábban „sok elemzőcsapatot” foglalkoztattak, míg most „egyetlen irodára” csökkentették a létszámot, amely egy AI-asszisztenssel havi több ezer vizsgálatot képes előállítani.
Hogyan változtatja meg a gyakorlatot az AI
A jelentés szerint a Claude-t használó állami szereplők nem csak adatgyűjtésre, hanem az információk elemzésére és a megfigyelési célpontok kiválasztására is alkalmazták. Például a kínai kormány szociális média-adatokat elemezve meg tudta határozni a bejegyzések politikai érzékenységét, majd ezek alapján kiválasztotta azokat a személyeket, akiket „ellenőrzés” alá vonhatnak — a kontroll a jelentés szerint magában foglalhat kényszerítő kihallgatást vagy szorosabb megfigyelést a mozgásuk és kommunikációjuk tekintetében.
Anthropic megjegyzi, hogy az AI nem feltétlenül változtatja meg alapvetően azt, hogy mely csoportokat célozzák meg a kormányok, de jelentősen lecsökkenti a feladatok elvégzéséhez szükséges munkaerő- és költségigényt. Jacob Klein, az Anthropic fenyegetettségi intelligencia részlegének vezetője arra hívta fel a figyelmet, hogy az AI lehetővé teszi, hogy egyes kormányzati alkalmazottak vagy külső tanácsadók automatizálják az egykor elemzőcsapatokat igénylő munkafolyamatokat.
Az Anthropic válasza és korlátai
-
Az Anthropic azt állítja, hogy a jelentésben feltárt megfigyelési műveletekhez köthető fiókokat letiltotta, és a feltárások alapján tovább erősítette védelmi intézkedéseit.
-
Ugyanakkor a cég hangsúlyozza, hogy a Claude lekapcsolása önmagában nem feltétlenül szünteti meg a mögöttes műveletet: Klein elmondása szerint előfordult, hogy szereplők nyílt forráskódú modellekre tértek át, ha az Anthropic korlátozásai túl nagy akadályt jelentettek. Maliban például a kormány végül helyi üzemeltetésre állította át a megfigyelési platformot más modellek használatával.
Egyre mindennaposabbá váló eszköz
Anthropic megfigyelése szerint az AI eszközök egyre inkább beépülnek az állami megfigyelési bürokráciába: egyes kínai állami biztonsági hivatalok belső kézikönyvet készítettek az AI alkalmazásáról megfigyelési műveletekben, más hivatalok Claude-t használtak napi hírszerzési jelentések automatizálására és állami megfigyelési adatbázisok lekérdezésére.
Következtetés
A jelentés szerint az AI-alapú eszközök már nem puszta kísérleti technológiák az állami megfigyelésben, hanem aktív, rutinszerűen alkalmazott eszközök, amelyek csökkentik a megfigyelés költségeit és munkaigényét. Anthropic figyelmeztet: az autoriter államok már ma használják az AI-t megfigyelésre, elnyomásra és befolyásszerzésre — ez nem csupán jövőbeli kockázat.
Rövid ténylista
- Jelentés kiadása: csütörtök (a pontos dátumot a cég adja meg).
- Országok említése: Mali, Kína, Irán.
- Használt modellek: Claude Haiku, Sonnet, Opus (nem Fable vagy Mythos).
- Intézkedés: Anthropic letiltotta a feltárt fiókokat és szigorította a védelmet.
- Kockázat: szereplők átállhatnak nyílt forráskódú modellekre vagy helyi üzemeltetésre, így a probléma nem múlik el puszta fiókblokkolással.
