Az Anthropic bejelentése szerint több olyan felhasználói fiókot is felfüggesztettek, amelyeknél a cég mesterségesintelligencia-modelljeit olyan feladatok elvégzésére használták, amelyek eredményeként biológiai fegyver kifejlesztésére nyílhatott volna lehetőség. A vállalat kiemelte, hogy a biológiai célú visszaélés az AI-modellekkel kapcsolatos egyik „legsúlyosabb kockázat”.
Mit találtak?
A közzétett jelentés öt esettanulmányt mutat be, amelyekben a felhasználók megkerülték a hozzáférést korlátozó intézkedéseket és más módszereket alkalmaztak az AI-használat valódi céljának elrejtésére. A példák között szerepeltek úgynevezett „gain of function” (funkciónövelő) típusú kísérletekre irányuló kérések is: ezek a laboratóriumi munkák arra törekednek, hogy egyes kórokozókat új, korábban nem jellemző képességekkel ruházzanak fel.
Konkrét esetekben az Anthropic beszámolója szerint a kutatók többek között a chikungunya-vírussal kapcsolatos funkciónövelő kutatásokhoz kértek támogatást – egyesek az AI segítségével pályázatot szerkesztettek, amelynek elnyerése fedezetet biztosíthatott volna az ilyen munkához. Egy másik példában a cég Claude nevű modelljét használták madárinfluenza-kutatásokkal kapcsolatban. Emellett előfordultak lekérések orthopoxvírusokkal (például mpoxszal vagy a fekete himlőt okozó vírushoz kapcsolódó) és más toxinokkal, mérgekkel kapcsolatos anyagokra.
Mennyire elterjedt a probléma?
A vállalat egy 30 napos időszak vizsgálatakor nagyjából 35 olyan kutatási tevékenységet azonosított, amelyek aggodalomra adhatnak okot. Az Anthropic hangsúlyozza ugyanakkor, hogy ezekből a megfigyelésekből nem lehet egyértelműen megállapítani, hogy az érintettek rossz szándékkal jártak-e el, vagy munkájuk valóban jogszerű tudományos célt szolgált.
A jelentésben említett kutatók aktív kutatók voltak, de a cég nem nevezte meg sem az országokat, sem a kutatóintézeteket, ahol az esetek történtek.
Miért számít ez?
A most közölt esetek rávilágítanak arra a kettősségre, amelyet a mesterséges intelligencia képvisel a biológiai kutatásban: egyrészt az AI jelentős segítséget nyújthat a gyógyszerfejlesztésben és a kórokozók megismerésében, másrészt ugyanazok az eszközök potenciálisan felhasználhatók veszélyes biológiai anyagok fejlesztésére.
Az Anthropic szerint a jelenlegi védelmi intézkedések eddig működnek, de ha a támadási módszerek kifinomultabbá válnak, akkor szigorúbb védelmi szabályozásra és intézkedésekre lesz szükség.
Reakciók és figyelmeztések
A közlemény megerősíti a kutatói közösség azon aggodalmát, hogy a mesterséges intelligencia ártalmas lehet az emberiség számára, ha a technológia túl gyorsan fejlődik vagy nem megfelelő szabályozás alatt áll. Jacob Coxon, az Anthropic volt munkatársa a CNN-nek azt mondta, hogy a jövőbeli AI-rendszerek képességeit figyelembe véve ezek a rendszerek komoly pusztítást is okozhatnak.
Az ügy további kérdéseket vet fel arról, hogyan lehet egyensúlyt találni az AI nyílt kutatási haszna és a potenciális rosszindulatú felhasználások elleni védelem között.
