Anthropic bejelentette, hogy öt olyan esetet akadályozott meg, amikor szereplők az ő mesterséges intelligencia modelljeit olyan módon használták volna, amely segíthette volna biológiai fegyverek kifejlesztését. A vállalat a veszélyértékelésében valós eseteket részletezett, amelyeket december és augusztus között tárt fel és szakított meg. Két esetben a kutatók állítólag a Claude nevű modell segítségét kérték veszélyes vírusokon végzett gain-of-function (funkciófokozó) kutatásban — olyan kísérletekben, amelyek patogéneket laboratóriumban módosítanak, hogy jobban megértsék azok jellemzőit és járványtani kockázatait.
Miért számít ez?
A jelentés kiemeli, hogy a biológiai képességek kettős felhasználásúak lehetnek: ugyanazok a módszerek hasznosak lehetnek gyógyításban vagy alapkutatásban, de rosszindulatú célokra is fordíthatók. A dokumentum szerint nehéz egyértelműen megállapítani a szándékot, különösen ha jól szervezett állami vagy hasonló szereplők megpróbálják kijátszani a hozzáférés-ellenőrzést.
A jelentés egyértelműsíti: „Ezeket az eseteket nem úgy értelmezzük, hogy Claude jelenleg közvetlenül fenyegetné a biológiai veszélyeket, hanem úgy, hogy jelentős kettős felhasználású kutatási erőfeszítések köthetők olyan állami szereplőkhöz, akik rendszeresen megkerülik hozzáférés-ellenőrzéseinket.” A jelentés szerint a védelemhez szükség lesz fiók- és intézményi jelzőkre a felhasználó jogosultságának igazolására, valamint az adatok megtartására, hogy az esetleges visszaélések azonosíthatók legyenek.
Technológiai háttér és további aggályok
Anthropic legújabb modelljeit olyan korlátozásokkal indították el, amelyek megakadályozzák a biológiai kutatásokhoz visszaélhető lekérdezéseket. Ugyanakkor más fejlemények is növelik az aggodalmakat: a Stanford kutatócsapata a múlt hónapban arról számolt be, hogy generatív mesterséges intelligencia segítségével megterveztek egy szintetikus vírust — ez az első ismert eset, amikor a technológiát egy természetben nem létező szervezet létrehozásához használták.
Egy, az Institute for Security and Technology által ebben a hónapban végzett felmérésben több mint 100 nemzetbiztonsági szakértő közül 70% úgy vélte, hogy az AI jelentősen növeli a biológiai fegyver kifejlesztésének kockázatát, vagy két–három éven belül növelni fogja azt. A szakértők szerint az AI fő veszélye, hogy csökkenti a belépési küszöböt kevésbé képzett szereplők és államok számára; a legnagyobb aggodalom a járványokat okozni képes biológia, nem pedig a vegyi fegyverek.
Milyen képességeket veszélyeztethet az AI?
Fiatal kutatók és professzorok a Fordham, Johns Hopkins, Oxford, Stanford, Columbia és New York University intézményeiből korábban figyelmeztettek arra, hogy a jelenlegi modellek több, visszaélésre alkalmas képességgel rendelkeznek. Képesek lehetnek új burkok tervezésére, amelyek a vírus DNS-ét zárják körül; előrejelezhetik a patogének evolúcióját; olyan nukleinsavszekvenciákat hozhatnak létre DNS-ben vagy RNS-ben, amelyek képesek elkerülni biztonsági szűrőket; illetve olyan vírusgenomokat tervezhetnek, amelyek laboratóriumi szintézis után nagyobb hatékonyságot mutatnak.
A kutatók azt is jelezték, hogy egyes AI-fejlesztők új, hatékonyabb biológiai modelleket adnak ki anélkül, hogy alapvető biztonsági értékeléseket végeznének — olyan gyakorlatot, amelyet más élettudományi területeken nem fogadnának el.
Lehetséges válaszok és szabályozási javaslatok
Az aggodalom lényege, hogy a fejlett AI lehetővé teheti rossz szereplők számára, hogy bonyolult feldolgozási feladatokat következetesen és gyorsan végrehajtsanak. Ha a modelleket olyan adatokkal képezik, amelyek összekapcsolják egy vírus genetikáját valós világbeli tulajdonságokkal — például fertőzőképességgel vagy immunelkerüléssel —, az könnyebbé teheti veszélyes patogének létrehozását.
Egyre több hang szól amellett, hogy a kormányzat vizsgálja felül a feltörekvő AI-modelleket és állítson fel biztonsági sztenderdeket, hasonlóan ahhoz, ahogy más érzékeny technológiákat értékel. Egy lehetséges központi szereplő lehet a Kereskedelmi Minisztérium tavaly létrehozott Center for AI Standards and Innovation (CAISI), amelynek feladata a nemzeti szabványalkotás irányítása.
Johns Hopkins Center for Health Security igazgatója, Tom Inglesby az Axiosnak azt mondta: "Ez a pillanat arra való, hogy visszalépjünk és eldöntsük, milyennek akarjuk látni az AI jövőjét, és mi legyen ennek az ökoszisztémának a része." Hozzátette, hogy a nyilvánosságnak tudnia kell, hogy az ország legnagyobb teljesítményű modelljeit vizsgálják-e magas szintű nemzetbiztonsági kockázatok szempontjából.
Egyes szakértők szerint a jövő olyan rendszerekben rejlik, amelyeket konkrét kutatási célokra hoznak létre — például a Google DeepMind AlphaFoldja —, de amelyek nem működnek autonóm ügynökként, mert az autonómia növelheti a kiszámíthatatlanságot és a veszélyt.
Mit figyelünk továbbra is?
A legfontosabb kérdés most az, hogy a döntéshozók reagálnak-e a friss figyelmeztetésekre. Egyes kongresszusi kezdeményezések, például az úgynevezett "kill switch" törvényjavaslat, hatalmat adna a kormánynak arra, hogy deaktiváljon olyan AI-modelleket, amelyek katasztrofális kárt okozhatnak. Egy másik javaslat jogi keretet teremtene arra, hogy az AI-fejlesztők koordinálódjanak az AI-specifikus biztonsági kockázatok ellen.
Az Anthropic esete rávilágít arra, hogy a mesterséges intelligencia gyorsan átalakítja az élettudományokat, és hogy a jelenlegi, részlegesen kialakult jogi és intézményi szabályozói háló nehezen tud lépést tartani a magas kockázatú kutatásokkal.
