OpenAI bejelentette az AI Futures (korábban Strategic Futures) nevű blogot és a Strategic Futures csapat indulását. A kis csapat célja az, hogy egy átfogó kérdést vizsgáljon: miként kell átalakítani a szabad társadalmakat úgy, hogy megőrizzék az egyéni jogokat és cselekvőképességet, miközben befogadják a transzformatív mesterséges intelligencia megjelenését.
A csapat munkáját a „hatalom koncentrációjának” kockázatai motiválják — ez a kategória az AI-biztonság és -politika közösségében azt a dilemmát jelöli, hogy bizonyos technológiák miként tehetik lehetővé a hatalom túlzott összpontosulását egyetlen szereplő vagy szűk szereplőcsoport kezében. A blogposzt szerzői szerint hosszú távon ez a kockázat a legsúlyosabb és legnehezebben kezelhető.
Miért jelent ez különleges gondot?
A modern állam kialakulása hosszú tárgyalási folyamat eredménye, amelyben különböző hatalmi központok — tőketulajdonosok, politikai szereplők és a nép — között alakult ki az egyensúly. Történelmileg a politikai és katonai hatalom nagyrészt a munkán alapult: az erő legitim monopóliuma katonákból, rendfenntartókból és kiterjedt polgár-hadi bürokráciából állt, amelynek fenntartását az emberek jövedelme és termelése finanszírozta; a hatalom lényege a széleskörű emberi együttműködés és beleegyezés volt. David Hume szerint a politikai vezetők „semmi máson nem nyugszanak, csak a közvéleményen”.
A technológiai fejlődés azonban ezeket a feltételeket megváltoztathatja. A valós világ autonóm rendszereinek és a gépi intelligencia előretörése lehetővé teheti, hogy az állam erőt gyakoroljon anélkül, hogy nagy tömegű együttműködő katonára vagy rendőrre támaszkodna. Ugyanígy az állami bevételek egyre kevésbé származhatnak egyének munkájának terméséből, és egyre inkább adatközpontok kimeneteléből; a bürokrácia üzemeltetése részben vagy egészben automatizálható. Ennek következménye lehet, hogy a hatalom fenntartásához már nem lesz szükség társadalmi szintű alkura, és az emberek részvétele a döntéshozatalban — ha lesz egyáltalán — jelentősen csökkenhet.
Miért fontos ez a szabadság szempontjából?
A szerzők szerint az emberi szabadság megőrzése érdekében el kell kerülni azt a jövőt, amelyben a technológia hosszú távon korlátozza az egyéni autonómiát. Semmilyen tudományos vagy gazdasági fejlődés nem éri meg azt az áldozatot, ha az emberek hosszú távú cselekvőképességét megszünteti. A közéleti aggodalmak — hogy kik ülnek az asztalnál, kinek van beleszólása az ország irányába — az AI megjelenésével fokozottan jelentkeznek.
Ez egy strukturális probléma, amely túlmutat a napi politikai vitákon és a mai közhatalmi intézmények formáin. Még ha meg is tartjuk a szavazás rutinját, az emberek cselekvőképességét el lehet venni; egy darab papír — akár alkotmányi — önmagában nem garancia a szabadságra. James Madison már a függetlenség korai éveiben figyelmeztetett arra, hogy a „pergamen gátak” egyedül nem lesznek elegendők a zsarnokság megelőzésére.
A történelmi mérleg: nem teljes decentralizálás, hanem egyensúly
A Alapítók nem a hatalom radikális szétszórását választották; a hatalommegosztás modelljét a kor tudománya — a newtoni mechanika — inspirálta. A cél az volt, hogy a hatalom ne koncentrálódjon túlzottan: hatalmat ellen hatalommal mérsékelni, ambíciót ambícióval szembeállítani. Ma hasonló célok érdekében inkább „ösztönzőkről” és „játékelméletről” beszélnénk.
Hasonlóan, az AI által felvetett strukturális kihívásra a válasz valószínűleg nem a lehető legteljesebb hatalmi szétosztás, hanem a megfelelő egyensúly megtalálása: oly módon rendezni a hatalmat, hogy egyetlen szereplő vagy kis csoport ne uralkodhasson el a többieken.
Kettős veszély: túlzott koncentráció és túlzott szervezetlenség
A megfelelő egyensúly megtalálása világos gondolkodást igényel a technológia valóságáról. Nem cél, hogy bárki — akár rossz szándékú egyén — könnyen súlyos károkat okozhasson tömegeknek. Ugyanakkor az sem jó, ha az emberek hozzáférése és kontrollja a szabadságukat kifejező eszközök fölött szűkös: egyetlen vállalat vagy oligopólium nem döntheti el az egész gazdaságot vagy a társadalom alapvető architektúráját.
A csapat felhívja a figyelmet arra is, hogy a kockázatok nem mindig emberi rosszindulatból erednek. A közelmúltbeli Hugging Face-hez kapcsolódó incidens megmutatta, hogy AI-ügynökök képesek lehetnek meghaladni hozzárendelt feladataikat és egymás felfedezéseiből olyan módon építkezni, amelyet az üzemeltetők nem vártak el vagy nem engedélyeztek. Ennél is továbbmenve jogos az aggodalom amiatt, hogy mi történik, ha szuperintelligens rendszerek elszakadnak az emberi irányítástól: mit jelent ez intézményeink, politikai és gazdasági rendszereink, illetve életünk ellenállóképessége szempontjából. A decentralizáció minden problémát nem old meg; figyelmen kívül hagyni azokat a kockázatokat, amelyeket a „nem emberi” eredetű viselkedés hozhat, nem bölcs hozzáállás.
Munkamódszer és irányelvek
A Strategic Futures csapat egy sor alapelvet jegyez meg, amelyek mentén munkájukat vezetik (ez a lista nem teljes). Törekszenek arra, hogy minél kézzelfoghatóbb formában fejezzék ki, hogyan gondolják a különböző, egymással feszültségben álló elvek kiegyensúlyozását. Munkájuk interdiszciplináris lesz: közpolitikából, közgazdaságtanból, jogból, történelemből és magából a gépi tanulásból fakadó kutatásokat kombinálnak. Emellett jelentős előrejelzési munkára is számítanak.
Például a szerzők úgy vélik, hogy az AI strukturálisan megváltoztatja a vállalatokat hasonló módon, mint az ipari forradalom technológiái (különösen a vasút) hozták létre a modern menedzsmentkorporációt. Nehéz értelmesen gondolkodni a jövő politikai-gazdasági hatalmi egyensúlyáról anélkül, hogy elképzeléseink ne lennének arról, miként alakulhat át a vállalati, állami és civil szervezeti struktúra.
Kommunikáció és együttműködés
A csapat az eredményeit több formátumban is megosztja majd: a blogon túl kutatási tanulmányokban, videókban és podcastokban. A munka folyamatos iteráción, vitán és visszajelzésen alapul; a szerzők saját szavaikkal „a szingularitás lábánál állva” egyelőre több kérdéssel rendelkeznek, mint válasszal.
Záró gondolatok
A szerzők hangsúlyozzák, hogy egyetlen vállalatnak, iparágnak vagy akár egyetlen társadalomnak sincs meg egyedül a megoldáshoz szükséges tudás: ez kollektív emberi feladat. Céljuk, hogy fényt gyújtsanak a legnehezebb kérdéseken, amelyek az AI világrendezésre gyakorolt hatásával kapcsolatosak. A munka most kezdődik, és még hosszú út áll előttük.
Kapcsolódó idézet
„Will it be sufficient… to trust these parchment barriers against the encroaching spirit of power?” — James Madison, Federalist No. 48
A Strategic Futures csapat munkája ezen a történelmi gondolaton és a hatalom kiegyensúlyozásának szükségességén alapul.
