Sok vezető mesterséges intelligencia (MI) tervezőt és döntéshozót privátban ugyanazt kérdezik: melyik MI-kockázat aggasztja a legjobban? A legtöbb válasz hasonló: egy olyan gyilkos kórokozó, amely túl csendesen, túl széles körben és túl gyorsan terjed ahhoz, hogy meg lehessen állítani.
Mit mond a kutatás?
Az MIT FutureTech és a University of Queensland közös vizsgálata 272 kutatót kérdezett meg, és 24 felső kockázati kategóriát rangsorolt. A megkérdezettek egyenként és összesítve is azt értékelték, hogy 2030-ig körülbelül 12% esélye van annak, hogy az MI veszélyes képességei katasztrofális következményhez vezessenek. Ugyanennyi – 12% – az esélye annak is, hogy az MI fegyverekhez vagy tömeges károkozásra alkalmas képességekhez járul hozzá.
Az elemzők „katasztrofálisnak” a következőket határozták meg: több mint 1 millió haláleset vagy legalább 100 milliárd dollár kár. A biológiai vagy kémiai fegyverek létrehozásában való segítségnyújtás egyértelműen ezen a lista élmezőnyébe tartozik.
A kutatók megjegyzik: ezek az értékek már a kockázatcsökkentő intézkedésekkel kalkulálva értendők; ezek nélkül a valószínűségek 20% fölé emelkednek.
Miért számít ez?
Az egyetértés ritka az MI-közösségben, ezért különösen figyelemre méltó, hogy sok szakember a biokockázatot emeli ki. Az aggodalom oka az, hogy a fejlettebb modellek képesek lehetnek feltérképezni az emberi biológia gyenge pontjait és megkönnyíteni olyan módosítások azonosítását, amelyek egy ismert kórokozót fertőzőképesebbé, nehezebben felismerhetővé vagy a jelenlegi kezeléseknek ellenállóvá tesznek.
Nem minden szakember gondolja valószínűnek a legsötétebb forgatókönyveket; az optimistább hangok szerint a puszta lehetőség nem egyenlő a biztos bekövetkezéssel. Ugyanakkor a technológia fejlődése mellett a potenciál létezik, és ezért komolyan kell venni.
A vezető szereplők figyelmeztetései
Az aggályokat nyíltan is kifejezték a szektor vezetői: a múlt hónapban Sam Altman (OpenAI), Dario Amodei (Anthropic), Demis Hassabis (Google DeepMind), Mustafa Suleyman (Microsoft) és Alexandr Wang (Meta) közösen aláírtak egy nyílt levelet, amely az MI-alapú biológiai fegyverek veszélyére hívta fel a figyelmet és nagyobb védelmi intézkedéseket követelt.
Hogyan képzelik el a szakértők a folyamatot?
A konzervatív realitás szerint ma egy valóban új patogén megalkotása ritka szakértelmet, speciális laborfelszerelést és éveken át tartó kísérletezést igényel. A félelem forrása, hogy az MI ezeket a lépéseket felgyorsíthatja:
- Egy rossz szándékú szereplő – állam vagy jól finanszírozott egyén – egy erős modellt használhat az emberi biológia gyenge pontjainak feltérképezésére, és olyan genetikai módosítások azonosítására, amelyek növelik a fertőzőképességet, csökkentik a felderíthetőséget vagy hatástalanítják a kezeléseket.
- A modell, amely hatalmas biológiai és genomikai adathalmazokon tanult, képes életképes jelölteket generálni: ez a számítási kapacitás olyan, mintha „száz legokosabb tudós” dolgozna megállás nélkül.
- Az így azonosított jellemzőket egyre olcsóbb és hozzáférhetőbb génszerkesztési eszközökkel lehetne szintetizálni – egy másik gyorsan fejlődő technológiai áramlat.
- Ha a kialakuló kórokozó elég eltérő ahhoz, hogy a meglévő bioszűrési rendszerek ne ismerjék fel, akkor a terjedés már azelőtt megtörténhet, hogy a közegészségügy reagálni tudna; ilyenkor a korai felismerés és a korlátozás jóval nehezebb, mint például a COVID esetében volt.
Mit jelent ez a szabályozás és a nyílt forráskód vitájában?
A vita két kulcspontja: a frontier modellek fejlesztői — akik megtehetik — beépíthetnének korlátokat és védőfunkciókat a rendszereikbe. Ezzel szemben az open-source modellek bárki számára elérhetővé tehetők, és finomhangolhatók olyan szereplők által, akik nem tartoznak semmilyen szabályozási felügyelet alá. Mivel a nyílt modelleket bárki privát környezetben futtathatja, a szabályozási eszközök sokkal kevésbé hatékonyak rájuk.
Ugyanakkor a legtöbb technológiai kritikus is elismeri, hogy a hatalmas számítási kapacitással rendelkező frontier modellek nagyobb eséllyel képesek valami igazán újat előállítani.
Konklúzió
A helyzet súlyos, de a figyelmen kívül hagyás nem megoldás. A kutatói közösség és az iparági vezetők által megfogalmazott kockázatok érdemi párbeszédet, szabályozási és technikai védőintézkedéseket, valamint a bioszintézis és a bioszurveillance gyors fejlesztését indokolják. A cél kettős: csökkenteni a rosszindulatú felhasználás esélyét, és fejleszteni azokat az eszközöket, amelyek gyorsan felismerik és megakadályozzák a veszélyes biológiai eseményeket.
