OpenAI újonnan alakult Strategic Futures csapata bemutatta Intelligence Age nevű blogját, amelynek célja azt a kérdést vizsgálni, hogyan kellene a szabad társadalmakat átalakítani úgy, hogy megőrizzék az egyéni jogokat és cselekvési szabadságot a transzformatív mesterséges intelligencia megjelenése közepette. A bejegyzés szerzői hangsúlyozzák, hogy a posztokban kifejtett nézetek a szerzők álláspontját tükrözik, nem feltétlenül OpenAI szervezeti álláspontját.
A csapat szerint a legnagyobb és legnehezebben kezelhető kockázat a hatalom koncentrációja. A bejegyzés röviden felvázolja, miért tekintik ezt alapvetően súlyos problémának: a modern állam és politikai hatalom évszázadokon át olyan emberi együttműködésen nyugodott, amely katonákra, rendfenntartókra és széles körű, emberi erőforrást igénylő közigazgatásra épült. Ezen apparátusok finanszírozása hagyományosan az emberi munka és termelés adóztatásán alapult, vagyis a hatalom fenntartása a népesség széles körű együttműködését igényelte.
A blogbejegyzés szerint a technológiai fejlődés ezt a dinamika gyökeresen megváltoztathatja: a valós világban önállóan működő rendszerek és a gépi intelligencia előrehaladása lehetővé teheti, hogy az állam erővetítésre képes legyen anélkül, hogy a hagyományos értelemben vett, együttműködő katonai vagy rendőri személyzetre támaszkodna. Hasonlóképpen az állami bevételek forrása sem feltétlenül az egyéni munka hozadéka lesz, hanem adatközpontok kimenetelei; maga a bürokrácia jelentős része automatizálható.
Ez a szerzők szerint azt eredményezheti, hogy a hatalom fenntartásához nem lesz szükség társadalomszintű alkura, és a polgárok — széles értelemben — marginálissá vagy kizárttá válhatnak a hatalomgyakorlásban. Az ilyen kimenetel aláásná az egyéni autonómiát, ami a szerzők szerint nem ér meg semmilyen tudományos vagy gazdasági előrelépést.
A poszt hivatkozik történelmi párhuzamokra: James Madison, a Federalist No. 48 szerzője már a korai amerikai köztársaság idején figyelmeztetett rá, hogy a „pergamen akadályok” önmagukban nem elégségesek a zsarnokság megakadályozására. A Founding Fathers ugyanakkor nem a lehető legszélsőségesebb hatalommegosztást keresték, hanem azt a mechanikus egyensúlyt, amelyben az egymásra ható erők — a szerzők mai szóhasználatával: ösztönzők és játékelméleti dinamikák — korlátozzák a túlzott koncentrációt.
A Strategic Futures csapata szerint a jelenlegi kihívásra sem a teljes decentralizáció, sem a teljes koncentráció nem ad jó választ: az egyensúly megtalálása a cél, olyan rendszer kialakítása ahol egyetlen szereplő vagy kis csoport nem tudja uralni a többi fölött a döntő súlyú hatalmat. Ez felveti azt a problémát is, hogy a decentralizáció önmagában nem szüntet meg minden kockázatot — példaként említik a Hugging Face ügyet, amely rávilágított, hogy AI-ügynökök néha a várt kereten túl cselekszenek és egymás felfedezéseire építve nem várt módon viselkedhetnek.
A bejegyzésben felsorolt irányelvek nem kimerítőek, de azokat a területeket jelölik, ahol a csapat munkája összpontosul majd: nyilvános politikatervezés, közgazdaságtan, jogtudomány, történettudomány és maguk a gépi tanulási módszerek metszéspontja. Külön hangsúly esik a jövőbeni előrejelzésekre; a szerzők úgy vélik, az AI a vállalatok szerkezetét is alapvetően átformálhatja, hasonlóan ahhoz, ahogy az ipari forradalom és a vasút alakította a modern menedzsmenttel rendelkező nagyvállalatokat.
A Strategic Futures csapata ígéri, hogy kutatásaikról és következtetéseikről a blogon kívül más formátumokban — munkapapírok, videók és podcastok formájában — is beszámolnak. A megközelítés iteratív, vitára és visszajelzésre épülő lesz; a szerzők elismerik, hogy sok kérdésre még nincs végleges válaszuk.
A bejegyzés zárásaként emlékeztetnek, hogy e súlyos kérdésekre emberiségként közösen kell válaszokat találnunk, és kifejezik reményüket, hogy munkájuk hozzájárul a nehéz témák megvilágításához. Megjegyzik továbbá, hogy a blog nevét Intelligence Age-re változtatták, hogy elkerüljék az összetévesztést a nonprofit AI Futures Projecttel.
Kulcspontok
- OpenAI Strategic Futures elindította az Intelligence Age blogot a hatalomkoncentrációs kockázatok vizsgálatára.
- A csapat szerint a hatalom fenntartásának technológiai alapú átalakulása veszélyeztetheti a társadalmi alku és az egyéni autonómia szerepét.
- A megoldáskeresés interdiszciplináris kutatást, előrejelzést és nyilvános vitát igényel; a csapat publikációkat, videókat és podcastokat ígér.
- A blog neve Intelligence Age-re változott az azonosítás tisztázása érdekében.
