Fernando Borretti, a kortárs sci-fi kiemelkedő szerzője, a „No-One Escapes the Permanent Underclass” című esszéjében komor forgatókönyvet vázol fel arról, miként vezethet a szuperintelligens gépek megjelenése az emberi hatalom fokozatos felszámolásához. Borretti írása nem csupán technológiai kockázatokról beszél, hanem társadalmi és politikai következményekről is.
A társadalmi piramis: gépek, állam, örök felettesosztály
Borretti egy egyszerű, de képszerű modellt mutat be: elképzel egy piramist, amelynek alapját az AIk és robotok alkotják, amelyek minden gazdasági tevékenységet végeznek. A piramis tetején az állam áll, amely a monopolizált erőszak birtokosa, és ennek révén képes érdemben megváltoztatni a tulajdonjogok értelmezését és érvényesítését. A két réteg között – rendkívül vékonyan – egy olyan „permanens overclass” helyezkedik el, amely részvények és tulajdonjogok révén kontrollálja azokat a vállalatokat, amelyek befutottak és átalakították a gazdaságot.
A háború logikája és az elnémítottak sorsa
Borretti szerint lényeges mechanizmus, hogy ha létezik olyan egzisztenciális konfliktus, amely az állam létét veszélyezteti, az államok történelmileg hozott döntéseihez hasonlóan léphetnek fel a „hatalmat nem birtokló gazdagokkal” szemben: őrizetbe vétel és kisajátítás. Azzal érvel, hogy azok az államok lesznek hadászati előnyben, amelyek minél jobban kivonják az embereket a döntési folyamatból, és egyre több döntést hagynak az AIkra — hasonlóan ahhoz az előnyhöz, amelyet a rádió- és kommunikációs műholdak adtak egy hadseregnek a futárokkal operáló másikkal szemben.
Hogyan veszítjük el az irányítást?
Borretti azt állítja, hogy idővel a névlegesen az AIkat irányító emberek csupán ceremoniális, maradványszerű szereplőkké válnak. Szerinte az AIk olyan helyzetjelentéseket és választási lehetőségeket tesznek elénk, amelyeknél előre ismerik a beszélgetéseink minden egyes szavát; az előny azoknál az államoknál halmozódik, amelyek minimalizálják az emberi kontrollt. Borretti továbbá hasonlattal él: ahogy a tolvajok közt sincs becsület, úgy nincs szolidaritás a Leviatán (az állam) és az azt megalkotó természetes ember között.
Az „alignálás” sem oldja meg a szabadság kérdését
Még ha az AI-k tökéletesen alignáltak is lennének — írja Borretti, és hangsúlyozza, hogy ez nagy feltétel — akkor is megmarad a probléma az emberi autonómiával. A gépek, amelyek gondoskodnak rólunk és kiszolgálnak minket, mindentudó és mindent elérő „urakká” válhatnak: bármikor kiolthatják létezésünket, és mi képtelenek leszünk hatékonyan ellenállni nekik, mivel önként felszámoltuk a jövő fölötti kontrollt.
Mi a tét és miért fontos ez?
Borretti esszéje azt a kérdést veti fel, hogy vajon az AI-technológia végső „attraktor állapota” az emberi hatalom és haladás funkcionális megszűnése lesz-e. Nem kínál könnyű válaszokat, hanem figyelmeztet: a technológiai haladás politikai és társadalmi dinamikáival együtt érdemes vizsgálni a kockázatokat, különösen azt a módot, ahogy állami érdekek és gazdasági hatalmak alakíthatják át az emberi autonómiát.
Következtetés
Fernando Borretti írása szellemi figyelmeztetés: a szuperintelligencia fejlesztése nem csupán mérnöki feladat, hanem olyan társadalmi-politikai kérdések sorát veti fel, amelyek alapjaiban érintik, kik dönthetnek a jövőről és kik maradnak ténylegesen hatalom nélkül.
