A kutató Toby Ord megvizsgálta, hogyan nézhetne ki a rekurzív önjavítás (recursive self-improvement, RSI) gyakorlati dinamikája, és azt a következtetést vonja le, hogy az RSI hatékonyságát végső soron időbeli és erőforrás‑korlátok fogják megszorítani. Ennek következtében egy önmagát többszörösen fejlesztő mesterséges intelligencia (MI) esetében vannak határok arra, hogy mennyire drámai lehet a teljesítménynövekedés üteme.
„Valószínűtlennek tűnik, hogy a generálási idők tetszőlegesen közel kerülhetnének a nullához. Ez fontos korlátot jelent a szinguláris növekedés számára” — írja Ord. „Azt lehet várni, hogy a következő modellgeneráció kiképzésének időigénye egy hajthatatlan véges határértékig csökken, ami idő előtt megszakítja a szinguláris növekedés periódusát.”
Ord szerint e korlátozó erő több forrásból is adódhat: a rendszer javulási tartalékának elfogyásából, amikor az egy bizonyos, adott erőforrás‑szinthez tartozó optimális teljesítményhez közelít, vagy a rendszer növekvő mérete és összetettsége miatti „megterhelődésből”.
Az intelligencia‑növekedés lehetséges aszimptotikus határai
Ord több lehetséges korlátozó tényezőt sorol fel, amelyek miatt az MI fejlődése aszimptotikussá válhat:
- Intelligencia korlátai: „Még egy optimális következtető sem lenne mindenható vagy mindentudó.” Azaz egy elméleti optimális intelligencia sem garantálhat korlátlan képességeket.
- Intelligencia per egység erőforrás: még tökéletes algoritmusok és hardver mellett is az elérhető erőforrások – például a Naprendszer egy csillaga a Tejútrendszer ~200 milliárd csillagából – költséges és lassú bővítést jelentenek; a növekedés a térben harmadrendű sebességgel lassulhat.
- Hardverkorlátok: egy optimális szilíciumchipekben rejlő számítási sűrűség is messze lehet a fizikai határoktól erőforrásonként.
- Algoritmikus korlátok: „Még egy optimális neurális háló is lehet, hogy jóval elmarad a legjobb, azonos számítási erőforrás mellett elérhető intelligenciától.”
- Tanítóadatok korlátai: a rendelkezésre álló és RSI során megszerezhető tanítóadatok hiányosak lehetnek sok területen, különösen a nem verbalizálható vagy erősen kontextuális információkban.
Az RSI „gyenge láncszemei” és időléptékek
Ord hangsúlyozza, hogy egy feladat sok különálló lépésből áll, amelyeket sorban kell végrehajtani, és ugyanez igaz az RSI‑re is: több absztrakciós szinten és több időskálán kell különböző alkatrészeknek javulniuk. Minden ilyen alkatrésznek valószínűleg van valamilyen kemény határa, és mind a határ felé való közeledés sebessége, mind maga a határalakítja majd az intelligenciarobbanás formáját.
Ord példákat hoz különböző visszacsatolási hurkokra, amelyek hozzájárulhatnak az RSI‑hez, és amelyek jellemző időskálái nagyon eltérőek lehetnek: évtizedek (például egy EUV litográfia utódjának megtervezése), hónapok (például jobb előképzési módszerek tervezése), vagy akár másodpercek (például jobb támogatórendszerek megalkotása).
Négy fázis az intelligenciarobbanásban
Ord négy fázisra bontja a potenciális fejlődési ívet:
- Kezdeti exponenciális fázis: a duplázódási időt elsősorban az emberi kutatás határozza meg.
- RSI‑vezérelt gyorsulás: az RSI csökkenti a generálási időket a gépi sebességek közelébe, a növekedési ráta meghaladja az emberi teljesítményt; ez a fázis szuperexponenciális.
- Teljesen automatizált RSI: a gyorsabb exponenciális növekedés egy ideig folytatódik, de elkezd telítődni.
- Inflexiós pont és plató: ahogy a rendszer eléri az inflexiós pontot, az ív eltér az exponenciálistól és logisztikussá, majd vízszintesedővé válik.
Miért fontos ez — csillagrendszer‑expanzió
Az ilyen modellek segítenek mérlegelni azt is, milyen sebességgel növelheti digitális intelligencia saját képességeit, és milyen realisztikusak az olyan forgatókönyvek, amelyek az energiakészletek (például a Föld környezetének, a belső és külső Naprendszer területeinek) meghódítását célozzák. Ord megjegyzi, hogy bár szerinte a szingularitásra gyors, korlátlan növekedés kevésbé valószínű, ez nem jelenti azt, hogy az RSI biztonságos lenne vagy hogy az MI‑kutatás emberi léptékkel kezelhető ütemben halad majd.
„Ha az emberi által vezetett pálya A(t) volt, és az RSI ezt A(10t)‑re gyorsítaná fel, évente egy emberi évtizednyi előrelépést kapnánk, ami számos veszélyt hozna magával — még akkor is, ha a görbe alapvető formája nem változna.”
Hivatkozás
A részletes elemzést Ord „The Dynamics of Intelligence Explosions” című dolgozata tartalmazza (arXiv).
