Az Epoch AI Gradient Updates hírlevelének egyik bejegyzése azt állítja: a jelenlegi vitákban gyakran találkozni azzal a narratívával, hogy amint automatizáljuk az AI-kutatást, éveken belül a világ gyökeresen átalakulhat — megjelenhetnek molekuláris nanotechnológiák, Dyson-rajok vagy fénysebességhez közeli űrhajók. Ajeya Cotra például azt javasolja, hogy egy nagy populációjú, szuperhumán AI-ügynökökből álló civilizáció lényegesen gyorsabban találhat fel új technológiákat, és pár év elteltével valóban „sci-fi” szintű eszközök jöhetnek létre.
A szerzők szerint az ilyen jellegű állítások két részből állnak. Az első állítás az, hogy ha az AI-kutatás teljesen automatizálttá válik, az AI-k rendkívül gyorsan fejlődhetnek és messze meghaladhatják a jelenlegi emberi szakértőket. Erre vannak empirikus és elméleti érvek, és a szerzők szerint ez meglehetősen valószínű lehet — a szűk keresztmetszetek nem tűnnek egyértelműen elég erősnek ahhoz, hogy ezt megakadályozzák.
A második, gyakran kevésbé vizsgált állítás az, hogy ha rendelkezésre áll elég ilyen „hiperhatékony” AI, akkor pár éven belül kifejleszthetők igazán futurisztikus technológiák. Másképp fogalmazva: a fő korlát egyszerűen az, hogy nincs elég igazán hozzáértő munkás. A szerzők azonban felteszik a kérdést: valóban így van ez? Nem tudjuk biztosan; ha az AI-k nem képesek „bármit” megcsinálni, a futurisztikus technológiákhoz vezető idővonal nagyban függ attól, mennyire nehéz ezeket a technológiákat kifejleszteni. Nukleáris fegyvert például nyilvánvalóan sokkal nehezebb előállítani, mint egy baltát. Ellenben ritkán látni részletes elemzést arról, mi kell Dyson-gömbök, nanotechnológia vagy különösen veszélyes biológiai fegyverek megvalósításához.
Ez a hiányzó fele az AI-futurizmus vitáinak: sokat töprengtünk azon, milyen jók lehetnek az AI-k, de keveset foglalkoztunk azzal, mennyire nehéz lesz konkrét technológiákat kifejleszteni.
Javasolt kutatási irány: háromlépcsős eljárás
A szerzők szerint néhány kutatónak érdemes lenne egy újféle, háromlépcsős kutatási irányt követnie:
-
Válassz egy konkrét technológiát és határozd meg pontosan.
- Példa: önreplikáló csillagrendszer-kutató szondák — olyan gépek, amelyek egy új csillagrendszerben leszállnak, helyi anyagokból másolatokat építenek, majd a másolatokat fénysebességhez közeli frakcióval indítják tovább.
-
Tegyél fel feltételezéseket az AI-képességekről.
- Például feltételezhetjük, hogy az AI-k "drop-in remote worker replacements" — azaz emberi munkásokat helyettesíthetnek távolról, és futtatásukhoz egy H100 GPU futtatási kapacitására van szükség. Vagy meghatározhatjuk, hány AI dolgozó áll rendelkezésre, milyen sebességgel futtathatók, milyen fizikai aktuátorokhoz férnek hozzá stb.
-
Becslést készíts arról, mennyi időbe telne az AI-nak a technológia kidolgozása, illetve milyen erőforrásokra lenne szüksége.
A szerzők hangsúlyozzák, hogy nem azt várják, hogy mindenki ezzel foglalkozzon, hanem hogy sokkal többen kezdjenek el ilyen konkrét, feltételezésekkel tűzdelt útvonalterveken dolgozni — különösen ha az intelligenciarobbanás valóban bekövetkezhet és viszonylag rövid időn belül.
Várható ellenvetések és válaszok
Ellenvetés 1: Már foglalkoztak ezzel korábban?
Van hasonló gondolkodás: sokan az AI technológiai hatásait gazdasági mutatókkal közelítik meg (például hogy az AGI hogyan befolyásolná a GDP-növekedést). Ha az AGI tízszer gyorsítaná a növekedést, az olyan lenne, mintha egy évszázad technológiai előnyét sűrítenénk egy évtizedbe. De a szerzők szerint a GDP rossz proxy lehet bizonyos kulcskérdésekre — például nem feltétlenül megmondja, hogy emberek eljutnak-e a csillagok közé, vagy hogy lehetségesek-e feltölthető agyak, biológiai fegyverek vagy molekuláris nanotechnológia.
Léteznek hasonló gondolatkísérletek a biológiai növekedési ütemekből (például a gyümölcslégy populációk gyors duplázódása), de ez a párhuzam kétes lehet. A legközelebbi szakirodalmi rokon az exploratory engineering, vagyis a tudományos útiterv-készítés: részletes, mérnöki úton végiggondolt pályák egy-egy jövőbeli technológiához. Armstrong és Sandberg például egy 1980-as években publikált szonda-tervet és egy eljárást felhasználva azt állították, hogy évtizedeken belül elindítható lenne az egész elérhető univerzum kolonizálása. A szerzők azon a véleményen vannak, hogy ilyesmi hasznosabb, ha kifejezetten AI-feltételezésekkel kombinálják.
Publikus példaként Damon Binder munkája említhető, aki a post-AGI energia-termelésről írt: egy minimális napelemrendszert tervezett, amelyet egy robotmunkaerőben bő gazdaság hetek alatt meg tudna duplázni. A szerzők hasonló elemzéseket képzelnek el, amelyek végiggondolják, hogyan változnának a következtetések különböző AI-feltételezések mellett.
Ellenvetés 2: A jövő túl bizonytalan, ez haszontalan
Az exploratory engineeringet kritizálják azért, mert gyakran téved. A szerzők szerint vannak azonban történelmi példák, amikor ez működött: Konstantin Tsiolkovsky 1903-ban már megmutatta a rakétamozgás alapelveit és azt, hogy a folyékony hajtóanyag elméletileg elegendő lehet az űrutazáshoz, huszonegy évvel a tényleges első űrrepülés előtt. Arthur C. Clarke pedig mintegy 19 évvel előre vetítette a kommunikációs műholdak koncepcióját.
Nem állítják, hogy a jövő bizonyos, de úgy vélik, nem érdemes túl pesszimistának lenni: a jó elemzések képesek megmutatni egy ésszerű mérnöki pályát egy technológia felé, még ha a pontos megjelenési időt nem is határozzák meg.
Ellenvetés 3: A szuperintelligencia modellezése túl nehéz
A harmadik ellenvetés szerint nehéz megjósolni a szuperintelligencia viselkedését — lehetnek váratlan, spiky képességek vagy ember számára elrugaszkodott stratégiák. A szerzők elismerik ezt, de rámutatnak, hogy még ha nem is tudjuk pontosan, milyen lesz a szuperintelligencia, akkor is kaphatunk hasznos következtetéseket. Például ha feltételezzük, hogy létezik egymilliárd AI, amelyek mindegyike legalább a top emberi szakértők szintjén áll, és ebből meg tudjuk mutatni, hogy ez az erőforrás egy bizonyos technológiát néhány év alatt kifejleszthet, akkor valószínűleg még nagyobb képességű AI-k is képesek lennének erre.
Valójában a jelenlegi robbanásszerű GDP-növekedésről szóló érvek is hasonló léptékű feltételezéseken alapulnak: nem ismerjük pontosan a szuperintelligencia szerkezetét, de kérdéseket tehetünk fel arról, mi történik, ha az AI megközelíti az emberi szintet. A poszt célja egyszerű: több ember foglalkozzon konkrét, magas kockázatú technológiákra vonatkozó, AI-feltételezésekkel kibővített exploratory engineering-gel.
Felhívás és kapcsolódó információk
A poszt arra buzdít, hogy aki érdeklődik a leírt típusú munkában, az vegye fel a kapcsolatot a szerzőkkel a js@epoch.ai címen. A bejegyzés megjegyzi továbbá a GDP-mutatók és egyéb metrikák hiányosságait, illetve rámutat arra, hogy korábbi exploratory engineering-elemzések (például replikáló szondákra vagy poszt-AGI energia-termelésre) már mutattak hasznosságot az ilyen megközelítésben.
Összefoglalva: ha valóban lehetséges az intelligenciarobbanás, akkor érdemes több, konkrét technológiára és mérnöki útvonalra fókuszáló elemzést készíteni, amelyek explicit módon feltüntetik az AI-képességekre és erőforrásokra vonatkozó feltételezéseket.
