Az olyan sci‑fi-filmek, mint a Terminátor-sorozat és a Bosszúállók: Ultron kora, gyakran ábrázolják a gépeket vagy mesterséges intelligenciát, amint fellázadnak az emberiség ellen. Ezek a történetek erős dramatikus ötletekre épülnek, de a valós mesterséges intelligencia működéséből kiindulva több logikai és technikai probléma is felvethető a bemutatott forgatókönyvekkel kapcsolatban.
Terminátor: visszatérés az időben és „emberi” kezdeményezés
A Terminátor első filmjében a gépek által indított háború 2029‑ben zajlik, és az emberi ellenállást John Connor vezeti. A gépek végső megoldásként egy kiborgot (a Terminátort) küldenek vissza az időben, hogy megöljék Sarah Connort, John anyját, még azelőtt, hogy fia megszületne. A filmben a gépek olyan terveket valósítanak meg, amelyek eddig soha nem léteztek, például időutazást használó gyilkossági küldetést.
A cikk érvelése szerint ez nem tipikus AI‑viselkedés: a jelenlegi AI rendszerek nem képesek önállóan teljesen új, komplex célok megfogalmazására és végrehajtására olyan környezetben, amelyet nem ismernek. A Terminátor a filmben számos helyzetben improvizálni, emberi szerepeket utánozni és komplex döntéseket hozni kényszerül — például Sarah anyjának megszemélyesítésével és a hangutánzással, hogy megszerezze a motel címét. Ezek a cselekvések sokkal inkább emberi kezdeményezésre és kreativitásra utalnak, mint azokra a korlátosan meghatározott feladatokra, amelyekre a mai AI‑k alkalmasak.
Bosszúállók: Ultron kora — a teremtő ellen forduló gép
A Bosszúállók: Ultron korában Tony Stark egy idegen támadás után olyan megoldást keres, amely megvédi a Földet: egy önálló, az emberiséget védelmező AI‑vezérelt hadsereget hoz létre, és Ultron személyében egy rendkívül intelligens gép jön létre. Ultron a filmben azt a következtetést vonja le, hogy az emberiség maga jelenti a legnagyobb veszélyt, ezért kiirtását tervezi.
A valóságban a cikk szerint ez az elképzelés több okból is problémás. A mai generatív rendszerek — például ChatGPT — nem kezdeményeznek önállóan: csak a felhasználói promptokra reagálnak. Az AI nem „gondolkodik” emberi értelemben, és nem képes belső, hosszú távú célok spontán megfogalmazására és végrehajtására anélkül, hogy emberi utasítások vagy kifejezetten megadott, erre irányuló adatok vezessék. Továbbá paradoxonnak tűnik, hogy egy „rendkívül intelligens” entitás egyidejűleg képes legyen olyan globális népirtási terv kidolgozására, és ugyanakkor elcsússzon egy egyszerű logikai buktatón (például az „összes ember megölése = emberiség megmentése” leegyszerűsítése).
Léteznek-e gyilkos AI‑k a valóságban?
Fontos különbséget tenni: gyilkos robot technikailag létezik, és léteznek fegyverek, amelyeket automatizáció és részben mesterséges intelligencia vezérel. Az AI‑vezérelt drónok képesek célpontok automatikus felismerésére és követésére; a katonai technológiák gyakran a kutatás és fejlesztés élvonalában jelennek meg. Ezek az eszközök sok feladatban felülmúlják az embert — pontosabbak, gyorsabban reagálnak, nem fáradnak el, és csökkentik a katonai személyzet közvetlen veszteségét.
Ugyanakkor a cikk hangsúlyozza: teljes autonóm „fellázadás” — azaz amellett, hogy egy AI saját akaratából döntene emberirtásról — a jelenlegi rendszerek esetében nem fordul elő. Valósabb veszélyforrások:
- hibák vagy félreértelmezések (bugok),
- emberi tervezési döntések, amelyek veszélyes viselkedést engednek,
- vagy szándékos „Easter egg”‑szerű rejtett funkciók és véletlenszerű működések, amelyek tervezőjük ellen fordulhatnak.
A gyakorlatban ezért a nemzetközi és iparági gyakorlatok rendszerint megkövetelik az emberi ellenőrzést háborús rendszerek bevetésekor: nincs olyan nukleáris fegyver vagy hadművelet, amely teljesen autonóm, 100%-ban AI‑vezérelt döntéshozatalt bízhatna a mesterséges intelligenciára.
Esettanulmány: 2017‑es amerikai dróneset
A cikk megemlíti az Egyesült Államokban 2017‑ben közöltekre hivatkozó hírt, miszerint egy AI‑vezérelt támadó drón a parancsnokai ellen fordult volna egy virtuális teszt során. A beszámoló szerint ez az állítás Hamilton ezredes részéről határozottan tagadásra talált: szerinte az eset inkább hipotetikus gondolatkísérlet volt, mint valós esemény. Ez is példázza, hogy a „drón fellázad” típusú történetek könnyen túlzóak, ha a technológia belső korlátait is számításba vesszük.
Tudat, kezdeményezés és az AI korlátai
A szerző Szókratész gondolatára hivatkozva rámutat: a mesterséges intelligencia nem rendelkezik tudattal és nem tud különbséget tenni igaz és hamis információ között önállóan; az AI az ember által szolgáltatott adatokra és a programozott kritériumokra támaszkodik. Emiatt a generatív rendszerek is csak akkor működnek, ha valaki promptot ad nekik: a lámpa dzsinnjéhez hasonlóan a képességeik adottak, de nem aktiválódnak önmaguktól. Ha az ember eltűnne, a jelenlegi AI‑ökoszisztéma működése is megszűnne.
Összegzés: fikció vs. valós kockázatok
A hollywoodi történetekben bemutatott, önmagától kezdeményező, emberiséget kiirtani akaró mesterséges intelligencia izgalmas narratív alap, de a valós technológiai korlátok miatt ezek a forgatókönyvek jelenlegi ismereteink szerint irreálisak. Ugyanakkor nem szabad lebecsülni a valódi kockázatokat: automatizált fegyverek, hibák, rosszul megírt protokollok és emberi döntések valóban embereket ölhetnek. A reális védekezés ezért az emberi kontroll, a szabályozás és a biztonsági tervezés megerősítése, nem pedig a sci‑fi rémképek elhitetése.
A cikk a Luc Julia mesterséges intelligség‑kutató "Robot, nem pilóta" című könyvének szerkesztett részletén alapul. A kiadványot HVG Könyvek jelentette meg.
