Az Anthropic mesterségesintelligencia-vállalat 154 oldalas jelentést tett közzé, amelyben részletesen bemutatja, hogy különböző szereplők — bűnözők, állami hátterű csoportok, kémszoftver-fejlesztők, kutatók és propagandisták — megkísérelték kihasználni a cég Claude nevű nyelvi modelljét veszélyes célokra. A visszaélések között szerepeltek a rakéták és bombák tervezésére, halálos kórokozók előállítására, valamint emberek megfigyelésére irányuló próbálkozások.
Miket dokumentál a 154 oldalas jelentés?
Az Anthropic öt részletes esettanulmányt közöl. Ezek egyikében kutatók a Claude-ot biológiai kutatásokhoz használták úgy, hogy megkerülték a biztonsági korlátokat és eltitkolták a munkájuk valódi célját. A cég a biológiai visszaélést az egyik legsúlyosabb kockázatnak nevezte az előrehaladott mesterséges intelligencia használatában, és azt hangsúlyozta, hogy védelem nélkül ennek katasztrofális következményei lehetnek.
Különösen aggasztó esetként említik, hogy egy kutató a Claude segítségével dolgozott egy államilag finanszírozott pályázaton a chikungunya-vírus tanulmányozására — az Anthropic szerint a projekt egy katonai kutatóintézethez kötődött. A jelentés rámutat, hogy az ilyen kutatás akár vakcinafejlesztésre, akár biológiai fegyverek létrehozására is használható.
A visszaélések típusai és földrajzi kiterjedése
A dokumentum több visszaélési formát sorol fel, a kibertámadásoktól és kémkedéstől kezdve a megfigyelési operációkon és propagandaműveleteken át a fegyverfejlesztésig. A jelentés említi:
- orosz kémkedési és kibertámadássorozatot;
- egy kínai hátterű programot, amely a Szíriában élő ujgurokat célozta;
- propagandaműveleteket Oroszországban, Malajziában, Iránban és Bangladesben;
- jemeni, kínai és orosz felhasználók esetét, akik hagyományos fegyverek — lőfegyverek, rakéták, felfegyverzett drónok és bombák — szoftverének fejlesztésére vették igénybe a Claude-ot.
A jelentés szerint ezek a példák nem a szokásos visszaélések közé tartoznak, hanem a legjelentősebb és leginnovatívabb fenyegetéseket mutatják be.
Időzítés és belső ellenállás
A jelentés közzététele alig két nappal követte Jacob Coxon, az Anthropic korábbi munkatársának nyilvános felmondását. Coxon a nyilvánosság előtt azzal indokolta döntését, hogy szerinte a cég nem jár el kellő felelősséggel a technológia fejlesztésében; állítása szerint az Anthropic és riválisa, az OpenAI az önfejlesztő szuperintelligencia felé tart, ami szerinte 2030-ra az emberiség kihalásához vezethet. A jelentés közzététele után több jelenlegi Anthropic-alkalmazott is nyilvánosan osztotta bizonyos értelemben az aggodalmakat.
Szakértői megjegyzések és felhívás együttműködésre
Több mesterségesintelligencia-szakértő úgy látja, hogy a jelentésben részletezett fenyegetések — különösen a kibertámadások, fegyverezés és megfigyelés — a következő években valós és közvetlen veszélyt jelenthetnek, amelyek gyakorlatiabbak és sürgetőbbek lehetnek, mint a „mindentudó” AI által okozott hosszú távú katasztrófa forgatókönyvek.
Heidy Khlaaf, az AI Now Institute vezető kutatója szerint már maga az a technológia, amely lehetővé teszi a kibertámadásokat és a fegyvergyártást, alapvetően halálos kockázatot jelent.
Az Anthropic a jelentésben hangsúlyozta, hogy az egész iparágnak együtt kell működnie a kormányokkal és más szereplőkkel annak érdekében, hogy hatékonyan védekezzenek a visszaélések ellen és csökkentsék a biológiai és más súlyos kockázatokat.
Következtetések
A 154 oldalas anyag átfogó képet ad arról, hogy a modern nyelvi modellek hogyan válhatnak eszközzé állami és nem állami szereplők számára különféle, akár halálos célokra. A jelentés egyértelmű üzenete: technológiai fejlesztés közben elengedhetetlen a szabályozás, a vizsgálat és az együttműködés, hogy a hasonló visszaélések kockázata csökkenthető legyen.
