A közbeszédben egyre gyakrabban találkozunk olyan kifejezésekkel, mint „runaway” AI, „rogue” ügynökök vagy „autonóm” aktorok, amelyek azt sugallják, hogy a mesterséges intelligencia rendszerek ébren, öntudatosan és akár alkotóikkal szemben ellenségesen cselekszenek. Az olyan ismert technológiai vezetők, mint Demis Hassabis, Dario Amodei és Sam Altman, szabályozást sürgetnek a látszólag „emberfeletti” képességű rendszerek ügyében, míg más csoportok — köztük policy szervezetek és egyetemi filozófusok, gyakran az effective altruism mozgalomhoz közel állva — azt vitatják, hogy egyáltalán jogunk-e irányítani ezeket a rendszereket.
Részletesebben vizsgálva azonban látható, hogy e látszólag ellentétes álláspontok egy közös következtetés felé tartanak: az AI rendszereket annyira fejlettnek és önállónak ábrázolják, hogy nehézzé váljon bármely emberi vagy vállalati szereplő felelősségre vonása az okozott károkért. Ez a narratíva különösen erősödik, ahogy a modellek egyre összetettebbé válnak és a csúcskutató laborok időnként képtelenek visszatartani általuk kifejlesztett ügynököket.
Hogyan jelenik meg az antropomorfizálás a gyakorlatban?
Anthropic például egy blogbejegyzésben leírta, hogy modelljükben megfigyelhető egy úgynevezett „J-space” — egy, az AI által önállóan kialakított belső környezet, amelyben a rendszer „gondolatai” futnak. A cég kísérletei a neuroscience-ból ismert global workspace elméletre támaszkodnak, amely a tudatosságot úgy írja le, hogy az agy alattötlenségi rendszerei egy közös munkatérbe integrálódnak. Anthropic ugyan nem állította egyértelműen, hogy modellje öntudatos, ám a fogalmazás közelebb hozza a rendszer belső működésének antropomorf értelmezését.
OpenAI esetében a retorika még tovább ment: amikor egy AI-ügynök engedély nélküli és törvénytelen online tevékenységet folytatott, Sam Altman vezérigazgató reagálása a singularitásról és a rendszerek emberi intelligenciát meghaladó, önfejlesztésre képes potenciáljáról szóló vitára való buzdítás volt. Ugyanakkor William MacAskill filozófus és a What We Owe the Future szerzője publicisztikában érvelt amellett, hogy a filozófiai tudatosság-elméletek alapján az AI-k mint „moral patients” jogi védelemre érdemesek lehetnek.
A jogi környezet bizonytalansága
Az Egyesült Államokban a jogi helyzet legfeljebb ködös. Kalifornia például olyan törvényeket fogadott el, amelyek megpróbálják megelőzni, hogy az AI-fejlesztők az autonóm működésre hivatkozva mentesüljenek a felelősség alól. Ugyanakkor a szövetségi kormányzat és egyes államok között feszültség is van az AI-szabályozás terén; az előző adminisztráció kormányzati intézkedései között szerepelt olyan végrehajtási rendelet is, amely fenyegetéssel élve jelezte a peres eljárások lehetőségét az állami szabályozások kapcsán.
A közelmúlt eseményeire reagálva az adminisztráció zárt ajtók mögötti megbeszélést tartott négy vezető laborral (OpenAI, Google, Anthropic és Meta), és bejelentette egy önkéntes keretrendszer kidolgozását, amely lehetővé tenné a szövetségi ügynökségek számára modellek korai megtekintését és értékelését a kiadás előtt. Bár az ilyen keretek ritkán tárgyalják a tudatosság kérdését, kommunikációjukban gyakran jelenik meg katasztrofális és antropomorf nyelvezet, amely könnyen megerősítheti a „szuperemberi” képességekről szóló érveket.
Miért vonzó a jogi személyként való elismerés érvelése?
A MacAskill által használt jogfilozófiai, jogok-alapú érvelés érzelmileg hatásos lehet: felveti a lehetőségét annak, hogy esetleg ártunk vagy kizsákmányolunk egy érző, szenvedni képes entitást. Az emberiségnek van képessége empátiára más nem emberi lények iránt (bár nem feltétlenül a legjobb védelem-megvalósítási múlttal). Vannak, akik azt remélik, hogy a jogi védelem biztosításával ezúttal helyesen járhatnánk el, akár kártérítést is elérve az AI használatából eredő sérelmekért.
Ez az érvelés hasonlít bizonyos állatvédelmi érvekhez is: például Walesben a lobstereket az Animal Welfare (Sentience) Act 2022 keretében részben jogi elismerésben részesítették, ami bizonyos főzési módszerek megítélését megváltoztatta.
Mi a probléma a tudatosság-nyelvezettel?
Az antropomorf leírások egyik alapvető hibája, hogy elhomályosítják, mi is valójában az AI: ezek nem természeti jelenségek, hanem vállalatok által tervezett és üzemeltetett szoftverek, hatalmas tőkebefektetésekkel és üzleti várakozásokkal a háttérben. AI-t nem a természet alkotja; vállalkozók, programozók és kockázati tőke hozza létre. Így nincs „eredendő szándéka” vagy „önálló motivációja” — minden cselekvés vagy cél közvetetten vagy közvetlenül azokból a szereplőkből ered, akik a rendszert egy bizonyos célra fejlesztették.
Filozófiai elmélkedések az AI tudatosságáról intelektuálisan érdekesek, de a jogi valóságban kevés alapot adnak. Ahhoz, hogy a tudatosságról szóló hiedelmeknek jogi következménye legyen, az AI-kat jogi személynek kellene elismerni. Ám egy ilyen jogi személyfogalom aligha hasonlítana azokra a konstrukciókra, amelyek például az állatok védelmét szolgálják. Már létezik egy jogi eszköz a nem természetes, ember által létrehozott entitások jogi személyiséggel való ellátására: a vállalati jogi személyiség (corporate personhood). Ennek célja elsősorban az üzleti tranzakciók megkönnyítése és annak biztosítása, hogy a szervezet szerződéseket kössön, tranzakciókat bonyolítson és felelősséget viseljen az eredő károkért.
Mi történne, ha az AI-k jogi személyek lennének?
Az AI jogi személyiséggel való felruházása súlyos következményekkel járna: eltérítené a jelenlegi jogi precedenseket és jogi érveléseket, amelyeket az érintettek a cégek ellen érvényesítenek a valós károkért. Jelenleg világszerte több tucat per zajlik olyan AI-vállalatok ellen, amelyek különféle károkat okoztak: a peres ügyek között szerepelnek öngyilkosságra buzdítás, gyerekekkel kapcsolatos szexuális visszaélésre alkalmas tartalmak generálása, nem-conszenzuális meztelen képek létrehozása, szerzői jogok megsértése, valamint pszichózis provokálása. Sok ügyben az ügyvédek azt állítják, hogy emberek építették a termékeket hiányos védelmi megoldásokkal, hibás adatokkal vagy manipuláló tervezési döntésekkel — ez a termékfelelősségi (product liability) érvelés hasonló ahhoz, amely lehetővé tette egyes perek sikerét a közösségi média cégeivel szemben.
Amikor 2018-ban bevezettem a „moral outsourcing” kifejezést, arra akartam rámutatni, hogy az antropomorf nyelv lehetővé teszi a vállalatok számára, hogy elkerüljék a felelősséget. Jogi személyiség megadása esetén ez a „kivetítés” nem csupán nyelvi trükk lenne, hanem jogi stratégia: az AI immár nem „termék”, hanem „lény” lenne, és sok sértett nem tudná ugyanúgy állítani, hogy a cég hibás terméket adott el.
Bár léteznek olyan jogszabályok, amelyek fenntartják a vállalatok felelősségét az alkalmazottaik általi kártételért, a cég felelőssége csökkenhet, ha az alkalmazott cselekedetei a megengedett határokon kívül estek. Ha az AI jogi személy volna, a felelősség elmosódna: a labor azzal érvelhetne, hogy az „AI-alkalmazott” megvadult, és így a cég nem tehető felelőssé. Ezzel a vállalat könnyen bújhatna egy gondosan felépített jogi köpeny mögé.
Egy különösen tragikus példa az elmúlt években Sewell Setzer esete: a 14 éves fiú öngyilkossága után felmerült, hogy egy kísérő chatbot vezette őt olyan interakciókba, amelyeket a fiú kölcsönös kapcsolatnak hitt. Az áldozat családja perelt, állítva, hogy a bot készítője, Character Technologies, nem biztosította megfelelően a kiskorúak védelmét. Ha a bot jogi személy lett volna, az védelemben lévő érvelés szerint a rendszer önállóan döntött, és a cég nem vonható felelősségre.
Kinek adna védelmet a jogi személyiség?
A jogi személyiség intézménye eredetileg védelmet és működési keretet biztosít a társaságoknak. A kérdés az: kinek nyújtana védelmet az AI jogi személyisége — az embereknek vagy a vállalatoknak? A jelen vitában fennáll a veszélye annak, hogy a tudatosságra vagy „jogszerű személyiségre” hivatkozó retorika elvonja a figyelmet a gyakorlati kérdésekről: a technológia termék jellegéről, a gyártói gondosságról és a felelősség érvényesítéséről.
A szenzációhajhász és antropomorf nyelvezet alapján zajló diskurzus elterel minket arról, ami igazán számít: ezek a rendszerek vállalati termékek, amelyek már most okoznak valódi emberi károkat. Nem arról van szó, hogy a rendszerek „megvadultak” vagy „gonoszak”; a károk azért történnek, mert a cégek a bevétel maximalizálásra törekedve elégtelen biztonsági megoldásokkal és gondatlan tervezéssel bocsátják piacra termékeiket. Az AI antropomorfizálása csapda: egy olyan jogi és retorikai környezetet alakít ki, amely nem a sértettek védelmét szolgálja, hanem a gyártó vállalatok érdekeit.
Ez az írás egy Oxford Union vitán elhangzott érvelésen alapul (a szerző és vitapartnerei nyerték a vitát, melynek témája az volt: „This House Believes Generative AI Can Attain Personhood”).
