A RAND kutatóintézet egy terjedelmes tanulmányban azt javasolja, hogy az Egyesült Államok számára a legjobb stratégia az, ha az ismeretlen jövőre tekintettel megőrzi a döntési szabadságát („Freedom of Action”). A dokumentum kiindulópontja az, hogy a következő, felgyorsult AI-fejlődési fázis pontos lefolyása bizonytalan, ezért érdemes most beruházni olyan kapacitásokba, amelyek később sokféle választási lehetőséget biztosítanak.
Mi a cél?
A Freedom of Action stratégia célja „kiépíteni és megőrizni azt a képességet, amely lehetővé teszi az Egyesült Államok földrajzi-politikai előnyének biztosítását, valamint az emberiség túlélésének és cselekvőképességének fenntartását az átmenet a Szuperintelligencia irányába”.
A stratégia négy fő összetevője
- Ember–MI ökoszisztéma építése
- Befektetés az AI-biztonságba és eszközök fejlesztése az emberi ügynökség megőrzésére.
- Az AI hasznainak megosztásába való beruházás és a társadalom felkészítése az AI-vezérelt zavarokra.
- Az ökoszisztéma ösztönzőinek alakítása.
- AI-biztonsági architektúra kiépítése
- Eszközök fejlesztése az élvonalbeli rendszerek megismeréséhez, ideértve a számítási kapacitás láthatóságát belföldön és külföldön.
- Olyan technológiák létrehozása, amelyek képesek verifikálni lehetséges megállapodásokat.
- Szabályozói szakértelem kialakítása a technológia kormányzásához.
- A hagyományos nemzetbiztonsági intézmények adaptálása az AI-korszakra
- Az összes biztonsági intézmény korszerűsítése, hogy készen álljanak az AI által hozott változásokra és tudják kihasználni az AI-képességeket.
- A polgárok, cégek és kormányok reagálóképességébe való beruházás
- Döntéshozók információval ellátása az AI-ról és annak kockázatairól.
- Pozitív AI-alkalmazások fejlesztése és terjesztése a változások kezelésére.
- Vészforgatókönyvek („break-glass plans”) kidolgozása krízishelyzetekre; az AI-írástudás növelése.
Hét archetípusos stratégia három családban
RAND hét tipikus nemzeti stratégiát különít el, három nagyobb családba sorolva:
Coexistence (együttélés):
- Dominance: az USA vezeti az AI-fejlesztést és elnyomja másokat.
- Co-Development: az USA egy konzorciumot vezet (magában foglalva Kínát is) a biztonságos szuperintelligencia közös fejlesztésére, megosztott kormányzással, közös számítási erőforrásokkal és ellenőrzéssel.
- Preparedness: az USA informális koordinációval mobilizálja az együttélés erőfeszítéseit, például önkéntes kötelezettségvállalásokkal, fokozatos telepítéssel, független értékeléssel és eseménybejelentéssel.
Denial (megtagadás):
- Moratorium: globálisan ellenőrizhető megállítást törekszik elérni az AI fejlesztésében meghatározott küszöbértékek felett.
- Deterrence: az USA saját élvonalbeli fejlesztésének leállítását célozza bizonyos küszöbök fölött, és minden eszközzel megakadályozná vagy szükség esetén megsemmisítené idegen programokat.
- Continuity of Society: ha minden megelőző stratégia meghiúsul vagy kivitelezhetetlennek ítélik, és az együttélés lehetetlen, a cél a túlélés; az USA földrajzilag elosztott, biológiailag önfenntartó településeket hoz létre, amelyek ellenállnak AI-vezérelt fenyegetéseknek.
Acceleration (gyorsítás):
- Ez a család implicit feltételezése szerint az AI fejlesztésének korlátozása veszélyesebb lehet, mint maga a fejlődés, ezért a stratégia a piacokra, versenyre és gyors iterációra támaszkodik abban a reményben, hogy a hasznos AI mint melléktermék hozza létre a biztonságot.
Az öt fő bizonytalanság
RAND öt kulcskérdést azonosít, amelyek meghatározzák, mely stratégia lehet optimális:
-
Veszély közelsége: mikor válik az AI annyira veszélyessé, hogy a kockázatok meghaladják az előnyöket? Ha a veszély közel van, időnyerésre, védelemépítésre és rugalmasságra kell fókuszálni; ha nem, erős lehet az érv a gyorsabb fejlesztés mellett.
-
Együttélés kivitelezhetősége: lehetséges-e stabil egyensúly ember és AI között? Ha igen, az előrehaladó AI-k kiépítése vonzóbb; ha nem, az érv a korlátozás vagy elnyomás irányába tolódik.
-
Korlátozás kivitelezhetősége: képesek-e az emberek együttműködni az AI-fejlesztés visszafogására? Ha igen, kooperatív stratégiák alkalmazhatók; ha nem, csak kényszerítő jellegű eszközökkel lehet eredményt elérni.
-
Döntő stratégiai előny elérhetősége: képes-e egyetlen szereplő döntő fölényt szerezni? Ha igen és az Egyesült Államok úgy ítéli meg, hogy fenntarthatja ezt a dominanciát, az unilateralizmus értelmes lehet; ha nem, akkor egyik szereplő sem tudja diktálni a feltételeket.
-
Elnyomás kivitelezhetősége: elnyomhatók-e a belföldi vagy rivális programok technológiai kontrollokkal? Ha igen, a Deterrence megvalósítható; ha nem, akkor a szabályozás mellett is megmarad a veszély, hogy mások tovább fejlesztenek.
Miért fontos ez — komolynak venni az AI-t pénzügyi kötelezettséget is jelent
A RAND alapkoncepciója az, hogy ha az Egyesült Államok meg akarja tartani az opciókat és előnyét az AI-jövőben, akkor most jelentős összegeket kell költenie erre a célra. Még ha a fő cél pusztán az opcionális képességek fenntartása is, ez beruházást igényel. A szerzők szerint jelenleg az amerikai gyakorlat hajlamos az "acceleration" irányába mutatni: sok erőforrást fordítanak a fejlesztés felgyorsítására és a képességek növelésére, miközben viszonylag keveset költenek proaktív biztonsági intézkedésekre (például rendszerszintű védelemre és felkészülésre).
Összegzés
RAND javaslata egyszerre praktikus és óvatos: mivel a fejlemények iránya és a potenciális kockázatok nagy bizonytalanságot hordoznak, érdemes olyan stratégiát választani, amely megőrzi a döntési szabadságot. Ennek eléréséhez négy területen kell beruházni, és tisztában kell lenni a különböző stratégiai opciókkal és a döntésüket befolyásoló bizonytalanságokkal. A szerzők hangsúlyozzák, hogy mindez anyagi ráfordítást követel meg a jelenben.
