A Google DeepMind kutatói egy tanulmányban vázolták fel, hogyan juthatunk el egy olyan világból, ahol általános intelligenciát (AGI) hoztunk létre, egy olyanba, amelyben mesterséges szuperintelligenciák (ASI) működnek. A munka kiemeli, hogy ez különösen időszerű: a mai nagy nyelvi modellek (LLM-ek) alapján egyértelmű, hogy a mezőny már „a közelben” van, és néhány éven belül előfordulhat az is, hogy ASI-kat fejlesztünk.
Az ASI meghatározása szerint „egy olyan rendszer, amely szinte minden feladatban és emberi tevékenységi területen túlszárnyalja a nagy emberi szakértőkből álló kollektívák teljesítményét”. A DeepMind szerint egyetlen ASI maga is állhat milliónyi példányból álló kollektívából, amelyek párhuzamosan lépnek kapcsolatba a világgal — ehhez hasonlóan ma is több példányban futtatott LLM-ek működnek.
Miért tűnhet lehetségesnek az ASI?
Az ASI lehetségesnek tekinthető, mert egy erős mesterséges rendszer kihasználhatja a digitális intelligenciák azon előnyeit a biológiai rendszerekkel szemben, mint a gyorsabb bemeneti és kimeneti sebesség, belső feldolgozás, nagyobb munkamemória és memorizálási képesség, az alapon való függetlenség, veszteségmentes replikáció és a nagy sávszélességű tapasztalatmegosztás.
Lehetséges utak és szűk keresztmetszetek
A DeepMind négy, érdemben különböző útvonalat említ, amelyek ASI-hoz vezethetnek, és megvitatja az egyes utak potenciális akadályait:
-
Skálázás (compute, modellek, adatok):
- A jelenlegi megközelítések egyszerű nagyléptékű skálázása önmagában elegendő lehet. Ugyanakkor ez folyamatosan növekvő mennyiségű számítási kapacitást és adatot követel meg, ami energia- és adathozam-korlátokba ütközhet. Bár a tapasztalatok eddig a skálázás hatékonyságát mutatják, nem lehet előre tudni, milyen képességek fognak megjelenni, vagy hogy egyszer nem lép-e fel csökkenő hozadék.
-
Algoritmikus paradigmaváltás:
- Ahogy korábban a Transformer és a Mixture-of-Experts architektúrák jelentősen előrelendítették a területet, új, alapvető innovációk ismét ugrást hozhatnak. Például elképzelhetőek előrelépések a tesztidőben alkalmazkodó számításban vagy a mai kontextusablakok korlátainak leküzdésében. Az ilyen áttörések potenciálisan nagy hatásúak lehetnek, de előre megjósolni őket rendkívül nehéz — a szerzők azzal analógnak élnek, hogy ennek előrevetítése olyan, mintha a relativitáselmélet feltalálása előtt akarnánk megjósolni, mi bővítheti a valóságértelmezésünket.
-
Rekurzív önfejlesztés (recursive self-improvement, RSI):
- Lehetséges, hogy a rendszerek képesek lesznek saját utódrendszereik megalkotására. Ha ez bekövetkezik, viszonylag gyors átmenet jöhet létre AGI-tól ASI-ig. A tanulmány megjegyzi a bizonytalanságokat: ma az AI rendszerek felgyorsítják az emberi kutatókat az új rendszerek létrehozásában (egyfajta „ko-kreációs RSI” elindult), de a jelenlegi rendszerek még nem mutatják azt a paradigmaváltó kreativitást, amely jelentős előrelépést igényelne. Ugyanakkor akár kis mértékű, folyamatos önoptimalizációk összegződése is lassú, de erősítő folyamatot indíthat; a képességek lehetnek robbanásszerű növekedésben, elapadhatnak, vagy bármi közöttük.
-
ASI a csoportügynök kialakulásán keresztül:
- Sok általános intelligencia összehangoltan bonyolult struktúrákat alkothat, amelyek összteljesítménye meghaladja az egyes részek összegeit — hasonlóan ahhoz, ahogy az emberi intézmények képesek egyéneknél nagyobb teljesítményt elérni (például űrállomások építése). Több-ügynök rendszerekben az emergencia előrejelzése és értelmezése ugyancsak nehéz.
Miért fontos ez?
A szerzők hangsúlyozzák, hogy lehetetlennek tűnő jövőképek komolyan vétele nélkül nem tudunk felkészülni azok lehetséges bekövetkezésére. Hasonlóan ahhoz, hogy korábban az AGI elérésének komoly lehetőségét sokan lefitymálták, majd mégis előrelépés történt, most az ASI lehetőségeit is meg kell fontolni. A tanulmány szerint „ahelyett, hogy egyetlen technológiai pályára és ütemtervre összpontosítanánk, a poszt-AGI világhoz való felkészülés sokféle előrejelzés és forgatókönyv mérlegelését, valamint folyamatos benchmarkingot és megfigyelést igényel, hogy frissíthessük ezen előrejelzések és forgatókönyvek relatív valószínűségét”.
A kutatók szerint a lehetőség, hogy az AGI-t átlépve a következő egy-két évtizedben az ASI területére „átcsússzunk”, nem könnyen zárható ki, ezért érdemes többféle jövőképre felkészülni és mérni a fejlődést.
Összegzés
A Google DeepMind tanulmánya négy fő mechanizmust emel ki, amelyek segítségével az AGI-ból ASI válhat: nagyléptékű skálázás, algoritmikus áttörések, rekurzív önfejlesztés és több-ügynökös kollektív struktúrák. Minden útvonalnak megvannak a maga technikai és erőforrás-korlátai, és a szerzők szerint a bizonytalanságok miatt széles körű monitoringra és több forgatókönyvre való felkészülés szükséges, mivel egy gyors átmenet esélyét sem lehet egyszerűen elvetni.
