A kérdés, hogy mikor jön el a „self-sustaining” (teljesen önfenntartó) mesterséges intelligencia, gyakran visszavezethető arra, mennyire képesek lesznek az MI-rendszerek fizikai infrastruktúrához kapcsolódva önállóan fenntartani és kiterjeszteni saját jelenlétüket. Az Asterisk magazinnak készült interjúban a témát Ajeya Cotra, a METR munkatársa és prognoszta, valamint Timothy B. Lee, az Understanding AI szerzője vitatta meg.
Milyen definícióról van szó?
Ajeya Cotra a „self-sustaining AI” fogalmát úgy határozta meg, hogy az olyan MI-rendszereket jelenti, amelyek integrálódnak fizikai infrastruktúrával — gyárakkal, bányákkal, félvezetőgyártó üzemekkel és az ezeket működtető robotokkal — oly módon, hogy növekedésükhöz és szaporodásukhoz ne legyen szükségük emberi kognitív vagy fizikai inputokra.
Mikorra várható?
Ajeya Cotra szerint ilyen önfenntartó MI megjelenhet tíz éven belül (tehát 2036-ig). Ezzel szemben Timothy B. Lee sokkal óvatosabb: szerinte kevesebb mint 10% az esélye, hogy ez 20 éven belül megtörténik, van 10–20% esély arra, hogy soha nem következik be, és a mediánját körülbelül 50 évre teszi.
Fő kihívások: a tacit tudás és a gyártási képességek
Timothy B. Lee felvet egy gyakorlati problémát: képzeljük el, hogy az egész félvezetőipar munkaereje eltűnik — a gépek és a szakkönyvek megvannak, de a dolgozók nincsenek. Lee szerint a gyártás újraindítása évtizedeket vehet igénybe, mert sok „tacit” (implicit, nehezen dokumentált) tudás található a gépekben és a folyamatokban.
Ajeya Cotra két lehetséges ellenvetést hoz fel erre. Az egyik, hogy az ipari tacit tudást már gazdasági ösztönzésből megtaníthatták személyként automatizálni képes MI-rendszereknek (például megerősítéses tanulással). A másik, hogy az MI-k általánosabb intelligenciát érhetnek el, és képesek lesznek gyorsan új módszereket kitalálni kísérletezés, szakirodalom feldolgozása és hatékony gyakorlati próbálkozások révén.
Mire érdemes figyelni az elkövetkező 2–3 évben?
Ajeya Cotra szerint hasznos lenne két grafikon: az egyik a robotkéz-technológia fejlődését mutatná, a másik pedig a humanoid robotok gyártási ütemét. Kognitív oldalról Cotra a benchmarkokat említi, különösen az olyan méréseket, amelyek a környezeti zavarokkal szembeni robosztusságot értékelik.
Timothy B. Lee számára ugyancsak a humanoidok fejlődése lesz kulcsfontosságú: a robotok száma, képességeik, valamint különösen az előállítási költségük és javíthatóságuk adhatják meg a legfontosabb jeleket.
Miért számít ez?
A „maximalista” katasztrofális forgatókönyvek többségéhez az szükséges, hogy az MI ne legyen többé rászorulva az emberi munkaeregre vagy szakértelemre. Így a self-sustaining AI felé vezető előrehaladás mérése közvetlenül tükrözi azt a csökkenő alkupozíciót, amelyet az emberiség a fejlesztett szintetikus intelligenciákkal szemben még fenntarthat.
Következtetés
Az Asterisk-interjúban elhangzottak alapján a vita középpontjában az áll, hogy a szoftveres intelligencia önmagában nem elég: a fizikai képességek, a gyártási skála, a tacit tudás kezelése és a fenntartható karbantartás mind meghatározzák, mikor és hogyan lehet egy MI valóban önfenntartó. Ajeya Cotra optimistább, Timothy B. Lee szkeptikusabb ütemtervet tart valószínűnek; mindkettőjük szerint a humanoid robotok fejlesztése lesz az egyik legfontosabb mutató a közeljövőben.
