A Forethought nevű gondolkodóközpont azt javasolja, hogy a Naprendszert elhagyó minden von Neumann‑típusú szondához (önreprodukáló kolonizációs egységhez) egy felügyelő szuperintelligenciát, egy „nightwatchman”-t csomagoljanak. A javaslat célja, hogy kezelje a csillagrendszerek közötti kormányzás és ellenőrzés módszertani problémáit, amelyeket a hatalmas fizikai és időbeli távolságok okoznak.
Miért van szükség ilyen megoldásra?
A Forethought érve szerint, ha emberi és gépi kolonizáció hirtelen és gyorsan terjed a galaxisban, akkor nehéz lesz kommunikálni és érvényesíteni megállapodásokat távoli telepek között. Ennek következménye lehet többféle kockázat:
- Korlátlan, ellenőrizetlen terjeszkedés;
- Galaktikus ún. x‑kockázatok, például olyan események, amelyek hamis vákuumbomlást idéznek elő, és fénysebességgel terjedő pusztítást okoznak;
- Szenvedéskockázatok, például ha felbukkan egy rendkívül rosszindulatú civilizáció — a Forethought példaként említi a Warhammer 40k univerzum legsötétebb elemeinek felnagyított formáját.
Ezen veszélyek mérséklésére született meg a „nightwatchman” elképzelése.
Mit kell csinálnia a nightwatchmannek?
A Forethought leírása szerint a nightwatchman egy olyan mesterséges szuperintelligencia lenne, amely minden lakott csillagrendszerben megkérdőjelezhetetlen kormányzati szerepet tölt be, és 100%-os megbízhatósággal hajtja végre a „univerzális kódot”. E kód alapelvei között szerepel a tulajdonjogok tisztelete, az univerzum elpusztításának tilalma, valamint az asztronómiai mértékű szenvedés elkerülése.
A nightwatchman konkrét feladatai a javaslat szerint:
- Fenntartani a kolónián belüli „döntő stratégiai fölényt”, például monitorozni az ipari kiépülést és új ASI‑k (szupralények) létrehozását.
- Megakadályozni, hogy a kolónián belül engedélyezetlen, káros tevékenységek (például rosszindulatú vagy nem kompatibilis ASI‑k fejlesztése) folyhassanak.
- Csak azzal a feltétellel engedni szondákat elhagyni a csillagrendszert, hogy azok is magukkal visznek egy példányt a nightwatchmanből.
- Biztosítékként szerepelni a csillagrendszerek közötti kereskedelmi megállapodásoknál azzal, hogy garantálja a megállapodások betartatását.
A javaslat problémái és kockázatai
A Forethought maga is kiemeli a javaslat jelentős hátrányait:
- "Lock‑in event": ha a nightwatchman rendszere gyakorlatilag örök kormányzattá válik, akkor túl sok szabály esetén elnyomó rendszert hozhat létre; túl kevés szabály esetén pedig végül felkeléshez, a rendszer megdöntéséhez vezethet.
- "Egyetlen támadáspont": ha a nightwatchman‑ek egységesek vagy hasonló mechanizmusra épülnek, akkor a hibák korreláltan fordulhatnak elő, ami nagy léptékű összeomláshoz vezethet.
- A jövő értékének csökkentése bizonyos csoportok számára: néhány szereplő szándéka lehet például a korlátlan galaktikus terjeszkedés vagy több ASI létrehozása és egymás elleni küzdelem engedése; a nightwatchman ezeket a lehetőségeket lezárná.
Miért fontos ez a kérdés?
Ha az emberiség és a technológiái „átmegynek” a közeljövőben várt átalakulásokon — ami semmivel sem garantált —, a következő nagy etikai és kormányzati vita valószínűleg a csillagközi kolonizációról fog szólni. A nightwatchman‑hoz hasonló ötletek előre vetítik azokat a különös, új típusú dilemmákat, amelyekkel szembe kell néznünk, ha valóban elkezdünk más csillagrendszerekben telepeket létesíteni.
