Egy bejegyzés kapcsán újra előtérbe került az AI-ágazat belső feszültsége: Jacob Coxon, aki korábban dolgozott az OpenAI-nál és az Anthropicnál, lemondott, majd egy rövid, de rendkívül népszerű Twitter-üzenettel azzal vádolta az AI-vállalatokat, hogy az emberiség életével játszanak. Coxon első tweetje több mint 700 000 lájkot és megközelítőleg 140 millió megtekintést gyűjtött össze, és sokak szerint az iparág egy részének jellemző dilemmáját ragadta meg.
A szerző felosztása szerint minden AI-cégben két típusú ember létezik. Az első csoport tagjai olyan mérnökök és kutatók, akik azért jönnek dolgozni, mert úgy érzik, csak ők képesek megakadályozni, hogy a fejlesztések valamilyen katasztrófához vezessenek; más munkát szívesebben választanának, de felelősséget éreznek. A második csoport tagjai viszont azért dolgoznak szívvel-lélekkel a szuperintelligencia megalkotásán, mert nincs más, amit szívesebben tennének; ők a technikai lehetőségben és a pozitív jövőben hisznek.
Coxon esete azért különös, mert korábban ritkán nyilvánult meg nyilvánosan az AI-kockázatokról. A lemondás és a megosztott üzenet miatt sokan beszélnek a jelenségről: nem csak arról, hogy mérnökök hagyják el a cégeket, hanem arról is, hogy egyesek végleg kilépnek az iparból, mert morálisan nem vállalhatónak tartják a folytatást.
A szerző több, név szerint említett szakembert és áthelyezést sorol fel, például Ilya Sutskever és Mira Murati távozását az OpenAI-tól, Andrej Karpathy átlépését az Anthropichoz, vagy Dylan Scandinaro ellentétes irányú mozgását; és megemlíti, hogy az Anthropic alapítói korábban mind dolgoztak az OpenAI-nál. Ugyanakkor hangsúlyozza, hogy ritkábban kerülnek reflektorfénybe azok, akik az iparból teljesen kilépnek, mivel a média szereti az egyszerű narratívákat („X átment Y-hez”), nem pedig a belső erkölcsi elbizonytalanodás történeteit.
A cikk egyik központi állítása az, hogy amikor a „védeni akarók” (azok, akik jobb híján azért maradnak, hogy csökkentsék a kockázatot) elhagyják a laborokat, az egyensúly felborul: a lelkes építők szabadon siethetnek a még gyorsabb fejlesztés felé. De a paradoxon az, hogy amikor a küszöb közelébe ér a technológia — vagyis amíg a szingularitás még nem teljesen megérkezett —, a második csoport tagjai is felteszik a kérdést, mi értelme munkával tölteni az utolsó heteket vagy hónapokat, ha az esemény úgyis bekövetkezik nélkülem. Sokuk inkább visszalépne az emberi élet apró örömeihez.
Ebből a dinamikaiból a szerző egy lehetséges mechanizmust vázol fel: ahogy mindkét csoport időről időre elhagyja a teret — mert túl veszélyesnek tartja, vagy mert már „eltelt” a szerepük —, a fejlesztés megakadhat. Mivel a gépek és az önfejlesztő rendszerek is emberi infrastruktúrára támaszkodnak, egy kritikus tömegű távozás megállíthatja a folyamatot. Később néhányan visszatérhetnek, a munka újraindul, majd ismét lelassul — így az előrehaladás egyfajta kétállapotú oszcillációba kerülhet: mindig közel a véghez, de soha nem teljesen elérve azt.
A szerző idéz egy C. S. Lewishoz kötött gondolatot is, miszerint ha elpusztulunk, jobb, ha „emberi” dolgokat csinálunk az utolsó pillanatokban — imádkozunk, tanítunk, zenét hallgatunk, játékot játszunk — ahelyett, hogy rettegve összebújnánk. Ezt a felvetést a cikk arra használja, hogy érzékeltessen egy erkölcsi vonatkozást: amikor a szingularitás közeledik, sokak számára racionálisabb az életüket a jelenben élni, mint feláldozni azt egy jövőbeni, elkerülhetetlen eseményért.
Végkövetkeztetésként a cikk azzal zár, hogy a szingularitás „húzóereje” legerősebben onnan érvényesül, ahonnan nem tud végül beérkezni: éppen abból a távolságból, amely elég közel van ahhoz, hogy meghatározza az emberek döntéseit, de nem eléggé közel ahhoz, hogy mindenkinek kötelezővé tegye a további részvételt. Az iparági belső konfliktusok és tömeges kilépések ezért hosszú távon a folyamatos, egyirányú gyorsulás helyett egy holtpontokkal és újraindulásokkal tarkított fejlődési pályát hozhatnak létre.
Miért számít ez?
- A Coxon-ügy ráirányította a figyelmet arra, hogy nemcsak külső szabályozás hiányáról van szó, hanem az iparágon belüli erkölcsi és pszichológiai dinamikáról is.
- A mérnökök és vezetők személyes döntései — maradás vagy távozás — közvetlen hatással lehetnek arra, hogy milyen gyorsan vagy milyen kontroll alatt történik a fejlesztés.
- Ha az előrehaladás inkább oszcillál, mint lineárisan gyorsul, az a kockázatok kezelésének és a politikai válaszok kialakításának stratégiáit is befolyásolja.
Összességében a cikk azt állítja: a belső konfliktusok és a tömeges kilépések paradox helyzetet teremtenek az AI-iparban, amelyben a szingularitás vonzereje egyszerre húzza előre és taszítja vissza a fejlesztést — és ez a dinamikus egyensúly hosszú távon alakítja majd a technológia társadalmi következményeit.
