Az MIT és a Columbia Egyetem kutatói játékelméleti modellt készítettek annak vizsgálatára, hogy két, egymással versengő vállalat képes‑e koordináltan lassítani az erősen teljesítményű mesterséges intelligenciák fejlesztését. A tanulmány Racing to Ruin címmel azt keresi, „miért nehéz a koordináció, és mi kellene hozzá”. A szerzők szerint két kulcsfontosságú tényező áll a sikeres, stabil lassulás mögött: a technológiai fejlesztések állapotáról való bizonyos fokú átláthatóság, illetve, hogy a vállalatok képesek legyenek a riválisokat megbízható, racionális szereplőként modellezni.
Mit vizsgálnak a szerzők?
A modell egyszerű R&D‑versenyt ír le két domináns vállalat (duopol) között, amelyet a „katasztrófa árnya” kísér. Ahogy a vezető szereplők skálázzák a technológiát, nő annak a valószínűsége, hogy bekövetkezik egy olyan esemény, amely véglegesen nullára csökkenti minden szereplő folyamatos hozamát. A fennálló kockázat ismert függvénye a cégek technológiai szintjének, és a fejlesztésből fakad, nem a technológia használatából.
A modell főbb eredményei
A kutatók megállapítják, hogy ha a megfigyelés (monitoring) elég pontos, minden egyensúlyban a fejlesztés egy véges időpontban megáll. Ugyanakkor megjelenik egy új kísértés: mindkét fél szeretne másodikként leállni, azaz csak akkor hagy fel a versennyel, ha meggyőződött arról, hogy a rivális valóban leállt. Az elsőként leálló ügynök tehát kockáztat: attól függően, hogy a rivális milyen «típus» (racionális-e), illetve milyen gyorsan érkezik a hír a leállásról, sikeres lehet vagy sem.
A bizalom és az átláthatóság kölcsönhatása a játék típusától függően eltérően hat. A szekvenciális koordináció (amikor valakinek először kell leállnia, bízva abban, hogy a racionális rivális viszonozni fogja) esetén a gyorsabb hírek növelik a viszonosság nyereségét. Ugyanakkor a szimultán koordináció (amikor a cégek egyszerre várják a megerősítést, hogy a másik valóban leállt) esetén a gyorsabb hírek mind a „elsőként leállni”, mind a „várni és ellenőrizni” stratégiákat vonzóbbá teszik.
A transzparencia kettős hatású: a gyorsabb észlelés olcsóbbá teszi a megerősítésre várást, így közepes fokú bizalom mellett az átláthatóság növelése először megsemmisítheti az azonnali leállás egyensúlyát (mivel vonzóvá válik a szabadhaszon‑élvező stratégia), majd további gyorsulással ismét helyreállíthatja azt, amikor a detektálás elég gyors lesz ahhoz, hogy önmagában is önfenntartóvá tegye a leállást.
A kulcs‑következtetés: elkerülni a „versenyt a pusztulásig”
A tanulmány három mezei kimenetelt azonosít a bizalom szintje szerint: alacsony bizalom mellett minden egyensúly versenyt a pusztulásig eredményez — a katasztrófa egy eséllyel bekövetkezik. Közepes bizalom esetén egyszerre létezhetnek az azonnali leállás és a pusztulásig tartó verseny egyensúlyai. Magas bizalom mellett viszont minden egyensúlyban a két racionális vállalat örökké tartó versengésének valószínűsége a racionális szereplők prior valószínűségének négyzetesen csökkenő függvényében eltűnik.
Miért fontos ez?
A szerzők szerint, ha komolyan gondoljuk, hogy lassítani vagy ideiglenesen leállítani kellene a hatalmas intelligenciák fejlesztését, akkor rendszerekre lesz szükség a vállalatok közötti információmegosztás átlátható módjára, valamint hitelesítő eszközökre, amelyek ellenőrzik a cégek által közölt adatok és a lassítási lépések tényleges megbízhatóságát. Ebben a megközelítésben számos párhuzam vonható a nukleáris fegyverek ellenőrzésének történelmi módszereivel: a bizalom mellett verifikáció is szükséges.
Következtetés
A Racing to Ruin játékelméleti elemzése rávilágít arra, hogy a koordinált lassulás nem kizárt, de függ a megfigyelés pontosságától és a felek közötti bizalmi viszonytól. A politikaalkotók és iparági szereplők számára ez azt jelenti, hogy mind átláthatósági mechanizmusokat, mind megbízhatóság‑ és verifikációs intézményeket kell kiépíteniük ahhoz, hogy elkerüljék a potenciálisan katasztrofális versenyeket az AI‑fejlesztés terén.
