Az Anthropic közlése szerint idén több olyan kísérletet is megakadályoztak, amelyek során kutatók a vállalat Claude nevű chatbotját és más modelljeit olyan projektekhez próbálták volna felhasználni, amelyek potenciálisan hozzájárulhatnak biológiai fegyverek fejlesztéséhez. A cég csütörtökön tette közzé az elmúlt nyolc hónap nem rendeltetésszerű használatait összegző jelentését, amely részletesen ismerteti a megfigyelt visszaéléseket.
A dokumentum nemcsak biológiai kutatásokhoz kapcsolódó eseteket sorol fel: említi, hogy szereplők, akiket a jelentés a kínai és iráni kormányhoz köthetőként azonosít, megfigyelési tevékenységet folytattak; továbbá orosz állami média propagandacélú tartalomgyártására is találtak példákat, beleértve a moldovai választással kapcsolatban terjesztett dezinformációt. A jelentés kitér arra is, hogy voltak próbálkozások a modellek konvencionális fegyverek — lőfegyverek, rakéták, felfegyverzett drónok és bombák — tervezéséhez való felhasználására.
Biológiai kutatások miatti aggodalom
A New York Times által ismertetett jelentés szerint a legnagyobb aggodalmat a biológiai kutatásokhoz kötődő esetek keltik. Az Anthropic ugyanakkor nem hozott nyilvánosságra konkrét kutatói vagy intézményi neveket, országokat, illetve érintett kórokozókat — részben azért, mert több esetben nem tudta egyértelműen megállapítani, hogy jogszerű vagy rosszindulatú szándék állt-e a háttérben. A vállalat szerint azonban voltak olyan tudósok, akik megkerülték a regionális hozzáférési korlátozásokat és megpróbálták eltitkolni kutatásaik valódi célját a biztonsági szűrők kijátszásával.
Egy májusi esetben egy kutató a Claude segítségét kérte egy pályázat megírásához, amelyben a chikungunya-vírus funkciónövelő (gain-of-function) kutatásának támogatását szerette volna elnyerni. A kutató olyan mutációk előállítását tervezte, amelyek élő állatokon ismételt fertőzések során növelnék a kórokozó virulenciáját. Az Anthropic rámutat, hogy az ilyen kutatás önmagában lehet legitim — például vakcinafejlesztés céljából —, ugyanakkor hordozza annak a kockázatát is, hogy szuperkórokozók létrejöttéhez vezethet.
A jelentés különösen aggasztónak nevezte, hogy a tervezett kutatást egy katonai kutatóintézetben végezték volna el.
Modellek képességei és a szigorúbb védelmi intézkedések szükségessége
Az Anthropic kiemelte: míg korábbi modelljeik az elmúlt évi értékelések alapján még nem voltak alkalmasak arra, hogy érdemben hozzájáruljanak veszélyes biológiai kutatásokhoz, a mostani modellek már képesek összetett tudományos feladatok elvégzésére. Ez a fejlődés arra késztette a céget, hogy szigorúbb biztonsági intézkedéseket vezessen be, különös tekintettel a kettős felhasználású biológiai kutatási lekérdezések korlátozására.
Szakértői reakciók
Andrew Weber, a Stratégiai Kockázatok Tanácsának (Council on Strategic Risks) munkatársa és az Obama-kormányzat egykori védelmi miniszterhelyettese a jelentést „döbbenetes példáknak” nevezte arra, hogy államilag támogatott biológiai fegyverfejlesztők hogyan próbálhatják kiaknázni a fejlett AI-modellek képességeit. Weber szerint meg kellene fontolni az olyan AI-eszközökhöz való hozzáférés korlátozását, amelyek ilyen szintű kutatásra alkalmasak, és csak megbízható kutatók számára szabadna elérhetővé tenni őket.
Susan Monarez mikrobiológus, az Obama-kormányzat egykori biobiztonsági szakértője arra figyelmeztetett, hogy a fejlett mesterséges intelligencia lehetővé teheti rosszindulatú szereplők számára, hogy látszólag legitim kutatás álcája alatt olyan kórokozókat hozzanak létre, amelyeket előre nem látunk, és amelyek terjedését nem tudnánk megállítani.
Záró megjegyzések
Az Anthropic jelentése az elmúlt nyolc hónap trendjeit összegzi, és konkrét esetek bemutatásával hívja fel a figyelmet arra, hogy a modellfejlődés új kockázatokat hoz. A vállalat további részleteket nem tett közzé a személyekről, intézményekről vagy konkrét kórokozókról, részben a szándékok tisztázatlansága miatt, részben pedig a biztonsági megfontolások miatt.
Címkék: mesterséges intelligencia, biológiai fegyver, biotechnológia, chatbot, biztonsági kockázat, dezinformáció
