Az Anthropic jelentése szerint az elmúlt egy évben több országban is azonosítottak felhasználókat, akik a vállalat fejlett Claude nevű mesterséges intelligencia-modelleit potenciálisan katonai vagy egyéb károkozó célokra próbálták alkalmazni. A cég hangsúlyozta, hogy a vizsgált esetekben nem használták a két legfejlettebb modelljét, a Fable-t és a Mythos-t.
Milyen célokra próbálták használni a Claude-ot?
-
Harci drónrajok vezérlése: az Anthropic szerint egy Oroszországhoz köthetőnek tartott, de nem állami szereplők által végrehajtott próbálkozásban a Claude segítségével autonóm, FPV-kamikaze drónrajok vezérléséhez szükséges szoftvert kívánták fejleszteni. A fejlesztési anyagot állítólag ukrán harci felvételekkel szerették volna betanítani.
-
Rakétafejlesztéshez kapcsolódó szoftverek: Jemen északi, húszik által ellenőrzött területein működő szereplők többféle rakétához készítettek szoftvereket a Claude segítségével.
Az Anthropic kiemelte, hogy nincs bizonyítéka arra, hogy ezekből a fejlesztésekből működőképes fegyverrendszer született volna.
Biológiai kutatás és a fegyveres felhasználás veszélye
A cég öt olyan esetet mutatott be, amelyekben a Claude használata hozzájárulhatott biológiai fegyverek fejlesztéséhez. Ezek között állami háttérrel rendelkező virológusok is szerepeltek: az egyik ügyben a kutatók egy súlyos megbetegedést okozó, szúnyogok által terjesztett vírus, a chikungunya továbbfejlesztett változatán dolgozhattak. Egy másik említett kérelem arra irányult, hogy a modellel írjanak pályázatot egy katonai kutatóintézetben végzett kutatás finanszírozásához. Az Anthropic ugyanakkor óvatosan fogalmaz: a biológiai eseteket „kétértelműnek” minősítette, így ezek mögött lehetett ártalmatlan tudományos cél is.
Megfigyelésre való felhasználás
Az Anthropic szerint kínai és iráni állami kötődésű felhasználók a Claude-ot megfigyelési rendszerek fejlesztésére is megpróbálták igénybe venni. A jelentés szerint egy Kínához köthető műveletben a modellt ujgurok nyomon követésére, profilozására és beszervezésére használhatták a szíriai hadseregen belül. Egy iráni egység pedig olyan megfigyelési szoftveren dolgozott, amelyet imaidők nyilvántartására szolgáló eszköznek álcáztak.
Mali eset: az Anthropic feltárta egy malíban működő tanácsadó ügyét is. A jelentés szerint az ottani szakember valószínűleg egy állami hírszerző ügynökséggel dolgozott együtt, és a Claude segítségével olyan rendszert épített, amely mintegy 25 millió mobiltelefon megfigyelésére lehetett alkalmas; a rendszer egy adott telefonszámhoz bírósági végzés nélkül is képes volt hírszerzési dossziét készíteni. Az Anthropic letiltotta a tanácsadó fiókját, de a Claude-ra épülő platform addigra helyben telepítve működött, így a cégnek már nem volt teljes kontrollja a rendszer felett.
Kiberbűnözők és állami hátterű hackercsoportok
A jelentés szerint a mesterséges intelligenciát egyre többen használják támadások felgyorsítására: az állami hátterű hackercsoportoktól a kiberbűnözőkig terjedő spektrumban. Bár az Anthropic nem azonosított új, kritikus infrastruktúrát fenyegető sebezhetőséget, több ismert csoport tevékenységét vizsgálta.
-
Midnight Blizzard: a Microsoft által azonosított, az orosz hírszerzéshez köthető csoport a műveletek automatizálására használta a Claude-ot. Rosszindulatú programok fejlesztésének automatizálására és katonai hírszerzési, illetve védelmi célpontok ellen irányuló adathalász e-mailek megfogalmazására alkalmazták a modellt.
-
ShinyHunters: az Anthropic megállapítása szerint a zsarolóbandához köthető szereplők MI segítségével kerestek kiszivárgott hitelesítő adatokat, amelyeket aztán adatok ellopására próbáltak felhasználni.
A cég szerint ezek az esetek nem a Claude tipikus visszaélései, hanem az eddig azonosított „legjelentősebb és legújszerűbb” fenyegetések közé tartoznak.
Következmények és szabályozási feszültségek
A jelentés megjelenése közben az Anthropic és az Egyesült Államok védelmi tárcája között is súrlódások vannak: a Pentagon felfüggesztette együttműködését az Anthropic-kal, miután a cég nem engedélyezte, hogy a Claude-ot tömeges megfigyelésre vagy autonóm fegyverrendszerek működtetésére használják.
Az Anthropic emellett készül a tőzsdei bevezetésére: a cég várhatóan október közepén kezdi meg az IPO marketingjét, a prospektus pedig szeptember végén válhat nyilvánossá. A tervezett bevezetés nyomán az Anthropic piaci értékelése elérheti a kétezermilliárd dollárt, ami a vállalatot a világ egyik legértékesebb technológiai szereplőjévé tenné.
Összegzés
Az Anthropic által bemutatott esetek rávilágítanak arra, hogy a fejlett nyelvi modellek és generatív MI rendszerek potenciális katonai, megfigyelési és biológiai visszaélésekhez adhatnak hozzáférést, ugyanakkor a cég adatai szerint egyelőre nincs bizonyított példa működő fegyverrendszer létrejöttére ezekből a próbálkozásokból. A jelentés a technológiai fejlesztők és a társadalom számára egyaránt hangsúlyozza a biztonsági intézkedések szükségességét, miközben a vállalat és a szabályozók közti politikai és etikai viták is éleződnek.
