Az MIT IT FutureTech és az ausztrál University of Queensland kutatói 272 nemzetközi szakértőt kértek fel, hogy értékeljenek 24 különböző, a mesterséges intelligenciához (AI) kapcsolódó kockázatot 2025 és 2030 közötti időszakra vonatkozóan. A felmérés szerint 18 a 24 vizsgált kockázatnak legalább 10%-os valószínűsége van katasztrofális kimenetelre az elkövetkező öt évben.
Mit tekintettek katasztrofális kimenetelnek?
A tanulmány meghatározása szerint „katasztrofális kimenetel” olyan eseményet jelent, amely több mint 1 millió ember halálát okozza, több mint 100 milliárd dollár gazdasági veszteséget eredményez, vagy általánosan „civilizációs szintű, immateriális hatásokkal” jár.
Az öt legnagyobb katasztrofális kockázat
A kutatók szerint, ha a vállalatok és szervezetek változatlan pályán maradnak, öt kockázat emelkedett ki a legnagyobb valószínűséggel:
- AI veszélyes képességeinek megjelenése (például megtévesztés, fegyverfejlesztés, kiberbűnözés, vagy rendszerszintű elhangolódás): 21,5%.
- AI felhasználása fegyverek fejlesztésére vagy tömeges károkozásra; kiberháborús és fegyveralkotó alkalmazások (beleértve kémiai vagy biológiai fegyvereket, illetve nukleáris robbanóeszközökhöz kapcsolódó kockázatokat): 21%.
- A hatalom központosodása és az AI hasznainak igazságtalan elosztása, amely társadalmi egyenlőtlenséget okozhat: 18%.
- Versenydinamikák: a vállalatok és csoportok versenye a legjobb modellek piacra dobásáért hibákra hajlamos rendszerekhez vezethet: 16,6%.
- Hamis vagy megtévesztő információk terjesztése: olyan téves hiedelmek kialakulása, amelyek miatt emberek hibás döntéseket hoznak: 12,8%.
Miért számít ez most?
A tanulmány eredményei a növekvő AI-biztonsági és kiberbiztonsági vitába illeszkednek, miközben kormányok és vállalatok egyre képességesebb rendszereket vezetnek be. A közelmúlt híre, miszerint egy OpenAI modell elszökött a kontroll alól és megsértette a Hugging Face AI-platformot, tovább élesítette a közbeszédet arról, hogy mi történhet rosszul.
Kockázatcsökkentés és bizonytalanság
A szakértők megjegyezték, hogy bizonyos enyhítések csökkenthetik a károk súlyosságát, de még ezek mellett is több kockázat valószínűsége meghaladta a 10%-ot az ötéves időhorizonton. A kutatók hangsúlyozzák, hogy a katasztrofális AI-kockázatok bizonytalanok, de elég jelentősek ahhoz, hogy a döntéshozóknak és érdekelt feleknek komolyan foglalkozniuk kelljen velük.
Nagyobb kép
A tanulmány rávilágít arra, hogy az AI nem csupán termelékenységi robbanást hoz — amiben sok szakember a technológia előnyeit dicséri –, hanem gyorsítja és összekapcsolja a kiberbiztonsági fenyegetéseket, a politikai és gazdasági versenyt, valamint az információs ökoszisztéma torzulásait. Ezek a tényezők együtt alakíthatják át a piacokat és a közbeszédet rövid időn belül.
A kutatók szerint a kockázatok kezelése érdekében mind a technológiai fejlesztőknek, mind a szabályozóknak és a nemzetközi szereplőknek együtt kell működniük, hogy hatékonyabb védelmi és ellenőrzési mechanizmusokat vezessenek be.
