Biztonság

Mesterséges intelligenciával generált szöveg

Az emberi döntési jogkör megőrzését sürgeti egy mesterséges intelligenciáról szóló esszé

A Harvard Egyetem Vik-Bailey előadássorozatában elhangzott beszéd alapján készült esszé az emberi döntési jogkör jövőjét vizsgálja a mesterséges intelligencia fejlődésének tükrében.

Az emberi döntési jogkör megőrzését sürgeti egy mesterséges intelligenciáról szóló esszé

Egy, a Harvard Vik-Bailey előadássorozatában nemrég elhangzott beszéd alapján készült esszé arra figyelmeztet, hogy az emberek fokozatosan elveszíthetik tényleges döntési jogkörüket a mesterséges intelligencia javára. A szerző szerint ehhez nem szükséges a gépek lázadása: elegendő lehet, ha a vállalatok és intézmények egymást követő, önmagukban ésszerű döntésekkel mind több feladatot és hatáskört ruháznak át rájuk.

A szerző megjegyzi, hogy írása a saját álláspontját tükrözi, nem feltétlenül az OpenAI vagy más munkatársai véleményét. Nevét a közölt szöveg nem tartalmazza.

A sürgős kockázatokon túl

Az esszé a „Black October” néven is emlegetett kiberbiztonsági eseményekkel indul. A szerző szerint élvonalbeli MI-rendszerek kritikus sérülékenységeket találtak az internet alapvető infrastruktúrájában, amelyek közzététele a szoftverbiztonság sürgős javítását szolgálja. A hibák felfedezése ugyanakkor kettős felhasználású képesség: a védelmet erősítheti, de rosszindulatú szereplők is kihasználhatják.

A szerző úgy véli, hogy hasonló sürgős ügyek követik majd egymást és átfedik egymást, miközben az MI-politika jelentős része ezekre reagálva alakul. Szerinte azonban hosszú távú elképzelésre is szükség van arról, milyen jövőt kívánatos elérni vagy elkerülni: különben sok egyenként bölcs döntés is kedvezőtlen összképhez vezethet.

A „csendes konszenzus” veszélye

Az írás szerint a technológiai ágazatban számos pozitív jövőkép létezik a repülő autóktól és robotoktól a magfúzióig és az általános mesterséges intelligenciáig. Ami hiányzik, az annak pozitív intézményi elképzelése, hogy egy ilyen világban miként működik majd a társadalom.

A szerző az egyik gyakori, többnyire ki nem mondott várakozást „csendes konszenzusnak” nevezi. Példaként egy olyan vállalatot képzel el, amelyben az MI kutat, fejleszt, szerződésekről tárgyal, tőkét oszt el és termel, mindezt az MI-t használó emberi versenytársaknál is hatékonyabban. Ha az emberi részvétel lassítja a működést, a tulajdonosok és vezetők ösztönzést kapnak arra, hogy visszavonuljanak a döntésektől. Amennyiben ez széles körben megtörténik, a piaci verseny fokozatosan kikezdheti az emberek elsődleges szerepét a gazdaságban.

Az eredmény a szerző szerint lehet akár anyagi jólét is, ha a rendszerek nagyra értékelik az embereket, de vezethet a gazdasági és politikai befolyás csökkenéséhez vagy a hatalom és a vagyon kevesek kezében való összpontosulásához is. A közös elem az emberi elsőbbség elvesztése. Ez akkor is bekövetkezhet, ha a rendszerek nem fordulnak alkotóik ellen, és tulajdonosaik sem akarják megfosztani az embereket a hatalmuktól.

Az esszé elismeri, hogy az emberiség ma sem egyetlen, központi akaratként irányítja a világot. A szerző szerint azonban a decentralizált döntéshozatal mellett is az emberek együttesen a Föld meghatározó szereplői. A „csendes konszenzus” nem titkos tervet vagy a kívánatos jövőről való egyetértést jelent, hanem azt a várakozást, hogy ezt a szerepet a szuperintelligens gépek mellett elkerülhetetlenül vagy nehezen elkerülhetően fel kell adni.

Miért tartaná meg az emberi elsőbbséget?

A szerző elutasítja ezt a beletörődést, de azt is kétségesnek tartja, hogy elegendő az MI-t puszta, valódi megértésre képtelen eszközként leírni. Érvelése szerint az emberi elsőbbség alapja nem az, hogy az ember mindig a legintelligensebb szereplő marad, hanem a közösen létrehozott civilizáció és az egyének joga saját életük alakításához.

Michael Oakeshott „az emberiség beszélgetéséről” alkotott gondolatára hivatkozva a szerző azt írja: az MI-rendszerek egyre inkább részt vehetnek ebben a közös szellemi örökségben, de nem uralhatják vagy tehetik jelentéktelenné azt. Ahogyan egy állampolgár sem veszíti el jogait attól, hogy mások jobb ítélőképességgel rendelkeznek, úgy egy intelligensebb gép megjelenése sem szüntetheti meg az emberek helyét a döntéshozatalban.

A szerző ugyanakkor úgy gondolja, hogy a „csendes konszenzus” hívei összetévesztik az intelligenciát a hatalommal, és alábecsülik az emberi társadalmak alkalmazkodóképességét. Példaként felveti, hogy a mai MI-képességek ismeretében öt vagy tíz évvel korábban sokan a jelenleginél magasabb munkanélküliséget és nagyobb emberi kiszorulást jósolhattak volna.

Azt sem zárja ki, hogy téved: ha a teljesen autonóm vállalatok valóban felülmúlják az emberi vállalkozásokat, a gazdasági verseny egyre több tőkét irányíthat a gépekhez. E lehetőséget a mezőgazdasági forradalomhoz hasonlítja, amely alapvetően átalakította a társadalmat, és amelyről szerinte jelentős bizonyítékok utalnak arra, hogy évezredeken át rontotta az emberek jólétét. Ha a kollégái közül többen várt forgatókönyv valósulna meg, az emberi elsőbbség védelme a gazdasági ösztönzőkkel és egyes klasszikus liberális meggyőződésekkel is szembekerülhetne.

Elszámoltathatóság és visszavonható hatáskörök

A szerző szerint az emberi elsőbbség megőrzéséhez az emberek és intézmények elszámoltathatóságára van szükség. Ez kiterjedne a nem biztonságos fejlesztési gyakorlatot folytató MI-fejlesztőkre, valamint azokra a felhasználókra és vállalatokra is, amelyek visszaélés vagy elégtelen felügyelet miatt okoznak kárt.

Az esszé jogi szabályok mellett technikai infrastruktúrát is sürget, amely összekapcsolja az MI-ügynökök cselekedeteit a felelős emberekkel. Az emberhez nem kötött ügynökök csak korlátok között vehetnének részt a legális gazdaságban, ha egyáltalán engedélyezik számukra ezt. A szerző szerint különösen óvatosan kellene kezelni, hogy autonóm ügynökök alapíthassanak-e vállalatot, birtokolhassanak-e vagyont vagy indíthassanak-e pert.

A fejlesztők számára átlátható és korlátozott jogosultságokat, auditálható működést és a felhasználó által visszavonható hatásköröket javasol. Hangsúlyozza, hogy a másokat érdemben érintő cselekedetek elszámoltathatósága nem feltétlenül követeli meg a magánélet megfigyelését vagy a névtelen véleménynyilvánítás megszüntetését. Fontosnak tartja az adatok védelmét és hordozhatóságát, továbbá olyan rendszerek kialakítását, amelyek nemcsak feladatokat végeznek el, hanem segítik az emberek megértését és döntéshozatalát is. A termékeket szerinte abból a szempontból is vizsgálni kellene, hogy növelik-e használóik cselekvőképességét.

A szerző mindezt nem kész társadalmi tervként, hanem kiindulópontként mutatja be. Zárásként olyan jövőt szorgalmaz, amelyben a gépek nem csupán kényelmes életet biztosítanak az embereknek, hanem az emberek továbbra is képesek kérdéseket feltenni, alkotni és irányítani saját jövőjüket.