A mesterséges intelligencia (AI) és a fejlett biotechnológia előrehaladása, a magas kockázatú, nagy haszonnal járó kutatások térnyerése, eszkalálódó geopolitikai feszültségek és a meggyengült közegészségügy mind növelik annak a valószínűségét, hogy egyszer egy ember által létrehozott, halálos kórokozó jelenik meg — akár véletlenül, akár szándékosan — és arra nem leszünk felkészülve.
Miért fontos ez
Ugyanaz a technológiai fejlődés, amely áttörést hozhat az orvostudományban, fokozza a katasztrofális laborbalesetek kockázatát. A szakértők között heves vita zajlik arról, hogy ez a kockázat mennyire jelentős. Ashish Jha, a Biden-kormány COVID‑válasz koordinátora azt emelte ki, hogy „egy nagyon kis módosítás elég ahhoz, hogy a betegség célzására szolgáló génterápia egy sokkal károsabb vírussá váljon”. Jha azóta olyan céget alapított, amely a felmerülő biológiai fenyegetések korai felismerését célozza.
Főbb aggodalmak
- Léteznek komor forgatókönyvek: egy rosszindulatú szereplő AI‑t használó biológiai fegyvert fejleszthet ki tömeges áldozatok okozására. A világ legnagyobb AI‑cégei maguk is felhívták erre a figyelmet és szigorúbb szabályozást sürgetnek.
- Ashish Jha szerint a legaggasztóbb forgatókönyv nem feltétlenül egy nemzetállam szándékos használata, hanem egy „baleseti kibocsátás egy szándékosan indított programból”.
- A tudományos haladás és a laborok számának növekedése — függetlenül a „gain of function” kutatások körüli politikai vitától — több helyen növeli a kockázatot. Egy volt magas rangú, Trump-kormányzati Egészségügyi és Humán Szolgálatok (HHS) tisztviselő azt mondta, hogy az ilyen kutatást végző laborok száma nőtt, nem csökkent.
- Az AI eszközök révén kevésbé tapasztalt kutatók is képesek lehetnek kísérleteket végrehajtani vagy navigálni komplex folyamatokat, ami megnöveli a siker potenciálját és ezzel a kockázatot.
Legutóbbi fejlemények
A Stanfordi Egyetem kutatóinak bejelentése, miszerint AI segítségével új, mesterséges vírusokat hoztak létre, amelyek képesek megfertőzni és elpusztítani az E. coli mikrobat, újraélesztette az aggodalmakat. A fejlesztés orvosi szempontból jelentős előnnyel járhat, ugyanakkor rávilágít arra, hogy a hasonló elvű eljárások rosszindulatú alkalmazása milyen veszélyeket rejthet.
Egyúttal riportok mutatták be, hogy chatbotos rendszereket manipulálva felhasználókhoz juttattak információkat arra vonatkozóan, hogyan lehet halálos biológiai eszközöket előállítani.
A kockázatok és korlátok realitása
- Az AI‑támogatott biológia még mindig sok kézzel végzett laboratóriumi munkát igényel, ami jelenleg korlátot jelent a fegyveresítés szempontjából. David Manheim, az Association for Long Term Existence and Resilience alapítója hangsúlyozta, hogy az AI nem tudja megszüntetni a fizikai ellenőrzés szükségességét, és reméli, hogy a laborok nem engedik majd, hogy AI‑rendszerek „tetszőleges” műveleteket hajtsanak végre, amelyeket senki sem ért teljesen.
- Emellett a baktériumokat célzó vírusok létrehozása is még jóval egyszerűbb példának számít, mint az emberre célzott, fertőző kórokozóké.
Miért lehet mégis aggodalomra ok
Az AI folyamatosan fejlődik, és a Stanfordi eredményeket bemutató bejelentés egy majdnem egy évvel korábbi preprintre épült — ez azt jelzi, hogy közben további előrelépések történhettek. Jha felvetése: figyelembe véve az egyre növekvő kutatói bázist, „mekkora az esélye annak, hogy senkinek sem sikerül öt éven belül?”
Intelligencia‑ és kormányzati nézőpontok
A mostani éves helyzetértékelésében az Egyesült Államok hírszerzési közössége azt állítja, hogy „Kína, Észak‑Korea és Oroszország valószínűleg megőrizte azt a tudást és képességet, amely lehetővé teszi hagyományos biológiai kórokozók és toxinok előállítását és alkalmazását, és történelmük során olyan kórokozókat kerestek, amelyek magas fertőzőképességgel vagy átvitel képességével rendelkeznek.” A jelentés hozzáteszi, hogy a nanotechnológia és a genom‑szerkesztés területén történt előrelépések „új biológiai fenyegetésekhez vezethetnek, vagy növelhetik a biológiai biztonsági események kockázatát, amelyek patogének véletlenszerű kiszabadulásával járhatnak.”
Védekezés és lehetőségek
- Az AI ugyanakkor a biodefense erősítésére is használható. A Google DeepMind múlt hónapban bejelentette saját bioreziliencia programját, amelynek célja a biológiai fenyegetések megelőzése, felismerése és kezelése.
- A volt HHS tisztviselő szerint a jó hír az, hogy az AI és az előrehaladott biológia jobb eszközöket adnak a kezünkbe, mint 2020‑ban volt, ha egy járványra kell reagálni.
- Az Egészségügyi és Humán Szolgálatok (HHS) közleményében azt írta, hogy az Egyesült Államok „teljesen fel van szerelve” a felmerülő közegészségügyi veszélyekre való reagálásra és a lakosság védelmére, példaként említve a hantavírusos hajóesethez és az afrikai ebola vészhelyzethez kapcsolódó reagálásokat.
Összegzés
A mesterséges intelligencia és az előrehaladott biotechnológia kettős természetű: új orvosi lehetőségeket teremtenek, de egyben növelik a súlyos laborbalesetek és a bioveszély kockázatát is. A vita az, hogy ez a kockázat mennyire jelentős, és milyen intézkedések szükségesek a megelőzéshez — a szakértők azonban egyetértenek abban, hogy érdemes fokozott óvatossággal és erősebb védelmi intézkedésekkel kezelni a fejlődést.
