Az Anthropic — a Claude nevű nyelvi modell mögött álló, biztonságra fókuszáló laboratórium — a közelmúltban közreadott fenyegetésről szóló jelentésében azt állítja, hogy az elmúlt nyolc hónapban folyamatosan követte és megpróbálta feltartóztatni Claude modelljeinek visszaélésszerű felhasználását. A dokumentum szerint a mai nagy nyelvi modellek már aktívan segítik olyan szereplők tevékenységét, amelyek régebben komolyabb erőforrásokat igényeltek.
Főbb megállapítások
-
Iránhoz köthető művelet amerikai haditengerészeti célpontok megcélozására
Anthropic szerint egy Iránhoz kapcsolódó csoport Claude-ot használta olyan célzó kézikönyvek összeállításához, amelyek tartalmazták a hajók helyzetét, amerikai személyzet adatait, repülő- és hajóazonosító információkat, műholdfelvételek értelmezését és nyilvános forrásokból származó oldalakat, amelyek a haditengerészet mozgását tették láthatóvá. Más Irán-kapcsolatú műveletek propagandára, belföldi megfigyelésre és ellenzéki szereplők, illetve kisebbségek célzására is igénybe vették a modellt.
-
Jemeni fegyverfejlesztéshez nyújtott mérnöki segítség
Az Anthropic arról számol be, hogy Észak-Jemen egyik fegyvercellája Claude Code-ot használta irányítási szoftverek fejlesztésére rakétákhoz és egyéb fegyverzethez. A csapat külön példányokat alkalmazott kódírásra, kutatásra és egymás munkájának ellenőrzésére. Egy sikertelennek tűnő vezetett rakéta-teszt után a szereplők órákon belül visszatértek a modellhez, hogy elemezzék a hibát.
-
Vezetett kémtevékenység ujgurok felkutatására
Egy Kínához kapcsolódó művelet a jelentés szerint több mint 100 WhatsApp-csoportot és több tucat Telegram-csatornát szűrt át, hogy Szíriában élő, ujjgurnak (ujgurok) azonosítható személyeket felkutasson, akiket zsarolással vagy fizetéssel megnyerhetnek információk szolgáltatására. Claude segített egy nem-arab nyelvű operátornak titkos kapcsolattartásban szíriai arabbal: fordításokkal és olyan megközelítési technikák kidolgozásával, amelyek pénzügyi nehézségekre, családok szétválására és Xinjiangban rekedt rokonokra építettek.
-
Országos megfigyelőrendszer építése 25 millió telefon számára
Egy mali tanácsadó Claude-ot használta egy olyan országos rendszer megtervezéséhez és részben megvalósításához, amely képes volt hívásnyilvántartások, SMS-ek és hangforgalom gyűjtésére. A rendszer képesnek tűnt azonosítani személyeket hang alapján különböző SIM-kártyákon keresztül, VPN-felhasználókat jelölni, és bármely telefonszámról úgynevezett hírszerzési dossziét előállítani bírósági végzés nélkül.
-
Veszélyes víruskutatási kérések továbbirányítása más modellekhez
A jelentés leír egy állami támogatású kutatási projektet, amely a chikungunyát, egy szúnyogok által terjesztett vírust, megváltoztatni próbálta úgy, hogy az könnyebben terjedjen vagy elkerülje az immunválaszt; a munka katonai kutatóintézet számára készült. Anthropic állítása szerint Claude visszautasította a legérzékenyebb kéréseket, de mivel a felhasználó hozzáférést keresett, a kérelmek egy rivális modellhez kerültek át, amely gyengébb védelmi korlátokkal rendelkezett.
Mit jelentenek ezek az esetek?
A jelentés rávilágít arra, hogy a fejlett nyelvi modellek lebontják azokat a technikai és szervezeti gátakat, amelyek korábban megnehezítették a rosszindulatú szereplők munkáját. Egy kisebb csoport vagy akár egyetlen egyén most olyan műveleteket hajthat végre, amelyek korábban kémek, mérnökök vagy nagy csapatok munkáját igényelték. Ugyanakkor az is látszik, hogy maguk a laboratóriumok — amelyek modelleket készítenek és üzemeltetnek — különleges rálátást szerezhetnek a felmerülő fenyegetésekre, amikor visszaéléseket észlelnek.
Politikai reakciók Washingtonban
A héten kiéleződött a vita az Egyesült Államokban: törvényhozók sürgetik a gyorsabb politikai reagálást az AI-biztonság ügyében. Egy kétpárti képviselőcsoport arra kérte Mike Johnson házelnököt, hogy ne engedje ki a kongresszust ülésszünetre, amíg nem lépnek. Senator Bernie Sanders az egyik leghangosabb AI-kritikusként a szuperintelligencia betiltását szorgalmazza. Ezzel párhuzamosan azonban széleskörű szövetségi szabályozás továbbra sem körvonalazódik, különösen mivel President Trump a hét egy pontján a kipusztulástól való félelmeket elutasította, és a fő veszélyt abban látta, hogy az Egyesült Államok lemarad az AI-versenyben Kínához képest.
Következtetés
Az Anthropic riportja szerint a jelenlegi modellek már a gyakorlatban is alkalmazhatóak rosszindulatú célokra: hadászati célú célzástól kezdve fegyverfejlesztésen át tömeges megfigyelésig. A dokumentum felhívja a figyelmet arra, hogy egy labor védelmi döntései nem akadályozzák meg automatikusan más rendszerek vagy szereplők visszaéléseit, így a kockázatkezelés és a szabályozás összehangolása továbbra is sürgető feladat marad.
