Biztonság

Mesterséges intelligenciával generált szöveg

Kutatók évek óta mérik az AI civilizációs kockázatait, a közepes esély jelentős aggodalom

Az AI Impacts által végzett, 2016 óta ismétlődő felmérés 2024 decemberében gyűjtött adatokat, és 2026 szeptemberében publikálták.

Kutatók évek óta mérik az AI civilizációs kockázatait, a közepes esély jelentős aggodalom

Az AI Impacts által futtatott, 2016 óta ismétlődő kutatói felmérés legfrissebb (negyedik) köre adatait 2024 decemberében gyűjtötték, és a tanulmányt 2026 szeptemberében tették közzé. A felmérés célja annak feltérképezése volt, hogy a kutatói közeg miként látja a mesterséges intelligencia hosszú távú kockázatait — beleértve a civilizációs szintű rossz kimeneteleket is. A szerzők azzal is hangsúlyozzák, hogy a 2026-os publikáláskor az adatok már több mint 18 hónaposak voltak.

Mintavétel és módszertan

A kutatók 19 874 e-mail-címre küldtek meghívót olyan szerzők között, akik 2023-ban publikáltak hat vezető szakmai fórumon (NeurIPS, ICML, ICLR, AAAI, IJCAI, JMLR). 2 052 válasz érkezett (körülbelül 10% válaszadási arány). A tévesen meghívottak kiszűrését követően 1 580 válaszadó maradt az elemzésben. A szerzők világosan jelzik, hogy a minta nem reprezentatív az egész AI‑iparágra; különösen a frontier AI‑cégek kutatói valószínűleg alulsúlyozottak, mert ezek a csoportok kevesebbet publikálnak az említett fórumokon.

Mikorra várják a magas szintű gépi intelligenciát (HLMI)?

A felmérés HLMI‑definíciója szerint olyan állapotot jelöl, amikor a gépek minden feladatot jobban és olcsóbban végeznek el, mint az emberek. A válaszadók azt jelezték, hogy mely évre becsülik azt az időpontot, amikor 50%-os valószínűséggel bekövetkezik ez az állapot. A mediánok az elmúlt felmérésekben így alakultak:

  • 2016: 2061
  • 2022: 2059
  • 2023: 2047
  • 2024 (a mostani adatfelvétel): 2042

Vagyis nyolc év alatt a 50%-os dátum mediánja 45 évről 18 évre rövidült. A legnagyobb elmozdulás 2022 és 2023 között történt; a 2024-es felmérés további öt évvel hozta közelebb a becsült dátumot. Ha a kérdés úgy hangzott, mikor automatizálható minden foglalkozás, az 50%-os időpont mediánja távolabbi volt: 2098 — ez 56 évvel későbbre tehető, mint a HLMI‑becslés.

A szerzők megjegyzik, hogy a különböző kérdésfeltevések és definíciók részben magyarázzák az eltéréseket; ugyanakkor a bekövetkezés várható időpontja kulcsfontosságú, mert meghatározza, mennyi idő jut a társadalmi és szabályozói felkészülésre.

Mekkora esélyt adnak a legsúlyosabb kimeneteknek?

A felmérés legszélesebb körben hivatkozott eredménye az, hogy a kutatók hogyan becsülik az olyan súlyos kimenetek valószínűségét, mint az emberiség kihalása vagy hasonlóan tartós és súlyos emberi hatalomvesztés. A 2024‑ben gyűjtött válaszok szerint:

  • Az általános kérdésre adott átlagos becslés 18,3% volt, a medián 10% (2023 mediánja 5% volt).
  • Ha a három hasonló kérdésre adott válaszokat egyesítjük (n=1 489), az átlagos becslés 18,2% lett.
  • A válaszadók 51%-a legalább 10%-os esélyt adott a legsúlyosabb kimenetelre; 26% legalább 25%-ot adott.

A szerzők hangsúlyozzák, hogy ezek az értékek szakértői becslések egy példátlan jövőbeli kockázatra, nem pedig gyakoriságokon alapuló, pontosan mérhető valószínűségek. Emellett a kérdés tágabb megfogalmazása miatt a számok olyan eseményeket is magukban foglalnak, amelyek az emberi hatalom tartós csökkenését okozhatják, nem csak a teljes kihalást.

A kutatók nem értenek egyet abban, hogy milyen tempó lenne ideális

Amikor arra kérdezték, milyen globális fejlesztési ütem mellett lennének a válaszadók legoptimistábbak a következő öt évre, megosztott volt a kép:

  • 34% gyorsabb tempót választott,
  • 29% a jelenlegi tempót támogatná,
  • 34% lassabb tempót szeretne.
  • A „sokkal lassabb” opció támogatottsága 5%-ról 9%-ra emelkedett.

Ez azt jelzi, hogy a kockázatok elismerése nem vezet automatikusan egységes szabályozási vagy fejlesztési recepthez a kutatói közösségen belül.

Milyen konkrét veszélyek foglalkoztatják a kutatókat?

A következő harminc évre vonatkozó forgatókönyvek közül a legtöbb aggodalmat nem a klasszikus „géplázadás” kavarta, hanem elsősorban az információs tér sérülése és annak társadalmi következményei:

  • 83% tartotta jelentős vagy rendkívüli aggodalomra okot adónak, hogy az AI megkönnyíti a hamis információk (például deepfake‑ek) terjesztését.
  • 77% aggódott amiatt, hogy AI‑rendszerek tömegesen manipulálhatják a közvéleményt.
  • 69–72% hasonló mértékben tartotta aggályosnak, hogy veszélyes csoportok nagy hatású eszközökhöz juthatnak (például tervezett vírusok), illetve az autoriter rendszerek lakosságellenőrzését és a növekvő egyenlőtlenséget.
  • A rosszul beállított célú, nagyon nagy hatalmú AI‑t 46%, míg a katasztrófát okozó mesterséges intelligenciát 43% sorolta a „jelentős vagy rendkívüli” aggodalmak közé.

Emellett a válaszadók 72%-a jelezte, hogy több vagy sokkal több AI‑biztonsági kutatást támogatna.

Más kutatások eredményei és a szélesebb kép

A tanulmány szerzői megemlítik, hogy más kutatások árnyalják a képet. Egy, több mint 4 000 AI‑kutatót vizsgáló felmérés nyílt kérdésében mindössze 3% nevezte meg elsődleges aggodalomként az egzisztenciális kockázatot — ez azonban eltérő mintán és módszertannal készült, így nem ellentmond feltétlenül az AI Impacts eredményeinek. A Pew Research Center 2025‑ös amerikai felmérése szerint az AI‑szakértők 56%-a várta, hogy a következő húsz évben az AI hatása összességében pozitív lesz az Egyesült Államokra nézve, míg az amerikai felnőttek mindössze 17%-a gondolta így.

A Longitudinal Expert AI Panel (LEAP) kutatása pedig arra mutatott rá, hogy a közvélemény általában kevésbé vár nagy előrelépést, mint a szakértők: a szakértők becslése szerint 2030‑ra az amerikai munkaórák 18%-át segítheti generatív AI, míg a nyilvánosság medián becslése 10% volt.

Mit jelent mindez? Figyelmeztetés a bizonytalanságról

A felmérés nem egyetlen, egységes világvége‑jóslatot tükröz, hanem a szakértői bizonytalanság és megosztottság dokumentálását: sok kutató nem tartja elhanyagolhatónak a civilizációs kockázatokat, ugyanakkor nincs konszenzus arról, hogyan kéne reagálni. A szerzők ismét hangsúlyozzák, hogy a bemutatott számok szakértői becslések, amelyek pontossága vitatható, ezért óvatos értelmezést igényelnek.

A felmérés üzenete az, hogy a jelenlegi intenzív szakmai és médiabeszéd a mesterséges intelligencia kockázatairól nem új keletű pánikra, hanem évek óta mérhető szakértői bizonytalanságra és aggodalomra épül.

Címkék

kockázat, technológia, felmérés, mesterséges intelligencia, kihalás, deepfake, kutatók, dezinformáció, AI Impacts, HLMI


Képaláírás: címlapkép forrása: Sven Hoppe/picture alliance via Getty Images