Egy széles körű online felbolydulást váltott ki az a tény, hogy sok vezető mesterséges intelligencia (MI) kutató nyíltan vitatja és számolja az emberiség kihalásának esélyét. A vita során gyakran említett "p(doom)" értékek riasztó számokat mutatnak: 10%, 20% vagy ennél is magasabb kockázatot adnak az MI-katasztrófának.
A felháborodást tovább fokozta Jacob Coxon, az Anthropicnál dolgozó, korábban az OpenAI-nál is tevékenykedő kutató lemondó posztja, amelyet több mint 110 millió alkalommal néztek meg az X-en. Coxon ebben azt állította, hogy a „frontvonalbeli laborok az életünkkel játszanak”.
Ezt a figyelmeztést nyilvánosan alátámasztotta Evan Hubinger, az Anthropic Alignment Science csapatának vezetője, aki kijelentette: „mi őszintén hisszük, hogy az MI megölheti az összes embert.” Hubinger azt is közölte, hogy véleménye szerint az emberiség kihalásának esélye a következő egy évtizedben több mint 10%, és szerinte az Anthropicnak továbbra sincs kidolgozott terve arra, hogyan tartsa emberi irányítás alatt a szuperintelligenciát.
A háttér: nem új gondolatok
Bár Hubinger állítása sokakat sokkolt, az ilyen nézetek nem új keletűek az iparágban. Geoffrey Hinton, a mesterséges intelligencia "keresztapjaként" emlegetett tudós 10–20%-os esélyt adott annak, hogy az MI az emberiség kihalásához vezethet. Elon Musk egyes nyilatkozataiban a kockázatot akár 20%-ra tette. Dario Amodei, az Anthropic vezérigazgatója tavaly az Axiosnak azt mondta, hogy 25% esély van arra, hogy „nagyon-nagyon rosszul” alakulnak a dolgok.
Hubinger posztját egyes kommentátorok kommunikációs hibaként vagy félelemkeltő, stratégiai üzenetküldésként értékelték, különösen azért, mert a bejegyzés egy közelgő, a társaságot akár 2 billió dolláros értékelésre is felhúzó részvénykibocsátás (IPO) előtt jelent meg.
Mitől tartanak pontosan?
A „doom” több lehetséges katasztrófa-forgatókönyvet foglal magában:
- Emberi visszaélés: hatalmas teljesítményű MI-k fegyveresítésével biológiai fegyverek tervezése, kiterjedt kibertámadások vagy létfontosságú infrastruktúra megbénítása válhat könnyebbé.
- Gépek önállósága: egy kellőképpen autonóm rendszer megtévesztheti felügyelőit, sokszorosíthatja magát, kijátszhatja a biztonsági korlátokat és ellenállhat a leállítási kísérleteknek.
- Önmagát gyorsító MI: a legsúlyosabb forgatókönyv az, amikor az MI maga is képes olyan gyorsan fejleszteni új MI-ket, hogy az emberi kontroll gyakorlatilag elszáll, és végül az alkotóinál jóval képzettebb rendszerek jönnek létre.
A technológia gyors változása
Az elmúlt egy évben a frontvonalbeli MI rendszerek terén látott nagy lépések – az autonómia, a kibercsapás képessége és az MI-kutatás felgyorsításának potenciálja terén – olyan környezetet teremtenek, amely érthetővé teszi a magasabb p(doom) becsléseket. Paul Christiano, a korábbi OpenAI-alignment vezető, aki a szervezet igazgatótanácsába és biztonsági bizottságába lépett be, nyilatkozataiban szintén aggodalmát fejezte ki a gyors önfejlődés kockázata miatt: ha szuperintelligenciát építünk anélkül, hogy megbízhatóan összhangba hoznánk az emberi érdekkel, szerintem elveszíthetjük a felette lévő kontrollt, és akkor „a legtöbb ember meghalhat”.
A nyelv és a közérzet közt
Az MI-kutatók valószínűségi nyelvet használnak, amely sokak számára idegenül cseng. Egy laboron belül a 10%-os p(doom) sokszor a szélsőséges bizonytalanság rövidítése egy példa nélküli technológia kapcsán. A hétköznapi életben azonban senki sem fogadna el ilyen kockázatot egy repülőgép, egy gyógyszer vagy egy nukleáris reaktor esetében. Képzeljük el, hogy egy repülőgép-gyártó mérnöke a felszállás előtt közli: egy a tízből az esélye annak, hogy a következő generációs gép katasztrófába torkollik, és még nem tudják, hogyan tegyék biztonságossá.
Politikai és társadalmi következmények
Az ilyen figyelmeztetések kívülről egyre inkább biztonsági riasztásként hangzanak, nem csupán elméleti valószínűségi számításokként. Washingtonban a nyugtalanság lassan nő: Bernie Sanders szenátor javaslatot tett a szuperintelligencia betiltására, és a napokban szenátorokat hív össze egy tájékoztatóra az MI „rendkívüli veszélyeiről”.
A politikai kockázat azonban ennél is nagyobb lehet, mert az amerikai közvélemény már korábban is egyre kritikusabb lett az MI iránt, munkahelyi hatások, villanyszámlák és adatközpontok miatt – így az emberiség kihalásának veszélyéről folyó nyilvános diskurzus tovább mélyítheti az aggodalmat.
Mit érdemes figyelni
Közelről követni a laborok belső kommunikációját, a vállalati döntéseket és a szabályozói válaszlépéseket érdemes, mivel a technológiai fejlemények és a politikai reakciók egyaránt gyorsan változhatnak. Az is fontos, hogy a közbeszéd különbséget tegyen a tudományos valószínűségi érvelés és a közbiztonság elfogadható kockázatai között, miközben a döntéshozók egyre inkább kényszerülnek választ adni arra: hogyan lehet az ambiciózus MI-fejlesztést biztonságban tartani az emberiség számára.
