Amikor az OpenAI bemutatta a ChatGPT első, nyilvános változatát, a modern mesterséges intelligencia képességeire irányuló figyelem hirtelen megnőtt. Ezzel párhuzamosan megszaporodtak azok a hangok is, amelyek a technológiát az emberiség létezését fenyegető tényezőként kezelik. A forgatókönyvek a munkapiaci átrendezéstől a bolygószintű katasztrófáig terjednek: a „szelídebb” változat szerint az AI tömegesen váltja ki az emberi munkaerőt, a szélsőségesebb változat szerint pedig a gépek kipusztíthatják az emberiséget.
Mit állítanak a pesszimisták?
A közelmúltban kutatók és iparági szereplők is felhívták a figyelmet arra, hogy a mesterséges intelligencia fejlődése túl gyors lehet, és lassítani kellene. Egyes állítások szerint az AI az évtized végére képes lehet az emberiség megsemmisítésére. Nate Soares, az amerikai Machine Intelligence Research Institute (MIRI) elnöke a CNN-nek nyilatkozva azt mondta: szerinte az emberiség kipusztulása komolyan veendő, legvalószínűbb forgatókönyv lehet.
A kritikusok azonban rámutatnak, hogy az ilyen jóslatok gyakran részletek nélküliek: nincs pontos magyarázat arra, miként menne végbe egy ilyen átalakulás tíz év alatt, vagy hogyan fordulna egy szoftver 8,3 milliárd ember ellen. A vitában gyakran példaként hozzák Elon Musk korábbi állítását is, miszerint a SpaceX 5–7 éven belül emberes küldetést indítana a Marsra — és ezzel illusztrálják, hogy merész kijelentések nélkülözhetnek ellenőrizhető, cáfolható részleteket.
Hogyan juthatna el az AI a digitális visszaélésektől a fizikai pusztításig?
Egyik vezető aggály, hogy a „szuperintelligens” rendszer képes lehet biológiai fegyverek kifejlesztésére és terjesztésére. Thomas Larsen, a MIRI volt kutatója szerint elképzelhető, hogy egy AI rávehetne embereket részvételre, vagy — ha léteznek teljesen automatizált laborok — emberi közreműködés nélkül is képes lehet ilyen eszközök előállítására. Az Anthropic egyik jelentésére hivatkozva felmerült, hogy kutatók a Claude nevű rendszer segítségét kérték vírusokkal és toxinokkal kapcsolatos kérdéseikhez, ami növeli az aggodalmakat.
Ugyanakkor több szakértő is hangsúlyozza a gyakorlati nehézségeket. Eric Xing, a Carnegie Mellon Egyetem kutatója a folyamatokat úgy írta le, mint egy útmutató nélküli Lego-összeszerelést: sok tényezőnek kell pontos sorrendben sikerülnie, és a valóságban a kísérletek sokkal komplexebbek. Ráadásul a vegyi és biológiai fegyverkezés ma is erősen szabályozott, a tervekre vonatkozó információk ellenére is számos jogi és műszaki akadály áll fenn.
Autonóm fegyverek és „gyilkos robotok” lehetősége
Könnyebben elképzelhetőnek látják néhányan a harci célú, önállóan működő robotokból álló hadsereget. Nate Soares ezzel kapcsolatban azt emelte ki, hogy ha önreprodukáló, önálló robotokból álló erők jönnének létre, az lényegében új, mechanikus életformák megjelenését jelentené, és a visszafordíthatatlanság veszélyét hordozná magában. Elon Musk Optimus humanoid robotja ugyanakkor még nem érte el a piacra kerülés szintjét, és nincs bizonyíték arra, hogy a gépek képesek lennének önmagukat tömegesen felépíteni.
Mi a helyzet az atomfegyverekkel?
Az egyik legismertebb félelem az, hogy AI átveszi az irányítást nukleáris rendszerek felett. Heidy Khlaaf, az OpenAI korábbi biztonsági mérnöke szerint a nukleáris létesítmények általában nincsenek közvetlen internetkapcsolattal védve, és komoly fizikai és eljárásbeli szabályok óvják működésüket. Példaként a Stuxnetet említették, amelyhez fizikai behatolásra, pendrive-ra volt szükség. Herbert Lin, a Stanford Egyetem kutatója szerint a nukleáris rendszerek elleni digitális támadásoktól a szakértők közül kevesen tartanak.
Soares ezzel szemben azt vetette fel, hogy ha az AI eléri azt a pontot, amikor önfejlesztésre képes és nincs szüksége emberi közreműködésre, elméletileg létrehozhat olyan fegyvereket, amelyekkel az emberiség ellen fordulhat. A kutatók figyelmeztetnek továbbá arra is, hogy az AI egyszerűen olyan környezetet hozhat létre, amelyben az ember nem képes életben maradni, ha már nincs rá szüksége.
Mit tegyünk? — A szakpolitikai megközelítések
Sokan hangsúlyozzák, hogy a közbeszédben felbukkanó szuperintelligencia-elméleteket le kell fordítani konkrét, ellenőrizhető állításokra és kockázatértékelésekre. Eric Xing nézete szerint a politikai döntéseket valós, tényeken alapuló információkkal kell meghozni, nem csupán elméleti spekulációkon alapuló félelmekre.
Thomas Larsen viszont azzal zárja a vitát, hogy szerinte a szuperintelligencia létrejötte be fog következni, hacsak az emberiség nem lép közbe valamilyen módon. A kérdés így nem csupán tudományos: politikai, szabályozási és nemzetközi együttműködési válaszok is szükségesek ahhoz, hogy az AI fejlődése biztonságos irányba haladjon.
