Három Anthropic‑kutató múlt éjjel nyilvánosan figyelmeztetett arra, hogy a gyorsan fejlődő, kifelé már nem kontrollálható mesterséges intelligencia (AI) akár emberiség‑pusztító kockázatot is jelenthet az elkövetkező évtizedben.
Mit mondtak a kutatók
-
Jacob Coxon, aki kedden lemondott pozíciójáról, X‑en (korábban Twitter) azt írta: „Az emberek, akik az AI‑t építik, őszintén hiszik, hogy az a mi mindannyiunk megölésére képes lehet a következő évtized végéig. Ez nem marketingfogás. Sok vezető és szenior kutató a sajtó felé ésszerűen fogalmaz, de privátban ugyanattól a félelemtől hangosak. Egyetlen más emberi tevékenység sem jelent ilyen szintű veszélyt.”
-
Evan Hubinger, az Anthropic alignment‑science vezetője reagálva hozzátette: „Jacobnak igaza van — mi valóban őszintén hisszük, hogy az AI megölheti az emberiséget! Én személy szerint több mint 10% esélyt adok erre a következő évtizedben. Úgy gondolom, hogy az Anthropic a legjobb tudása szerint próbál dolgozni, de még nincs olyan tervünk, amely megoldaná a szuperintelligencia alignálását, és nem világos, hogy jó úton haladunk-e.”
-
Samuel Marks, az Anthropic scalable‑oversight vezetője hozzátette: „Az AI fejlesztői úgy vélik, hogy technológiájuk emberi kihaláshoz (vagy hasonlóan súlyos következményekhez) vezethet. Ez a következő néhány évben meg is történhet. Általában minél magasabb beosztású valaki, annál inkább aggódik.”
Miért fontos ez
Ezek a nyilatkozatok nem állnak egyedül: néhány nappal korábban a OpenAI vezetői, köztük Sam Altman vezérigazgató is arról beszéltek, hogy az AI olyan gyorsan fejlődik, hogy veszélyes, nehezen kontrollálható fázisba lép. A belső figyelmeztetések azt a közös dilemmát tárják fel, amely a nagy AI‑cégeknél uralkodik: lassítani a fejlesztést és lemaradni a versenyben, vagy tovább gyorsítani és kockáztatni az irányíthatóság elvesztését.
Az Axios újságírói, Maria Curi, Madison Mills és Ina Fried megjegyzik, hogy a cégek ugyanúgy továbbra is fejlesztik modelljeiket, miközben szabályozást vagy akár globális moratóriumot kérnek — ezt a megközelítést egyes kritikusok azzal vádolják, hogy az incumbensek érdekeit szolgálja.
Nagyobb kép
A helyzet példátlan, mivel az emberiség történetének leggyorsabban növekvő technológiai vállalatai maguk is figyelmeztetnek arra, hogy termékeik komoly kárt vagy akár az emberiség pusztulását okozhatják. Források szerint sok belső munkatárs egyre inkább megrémül azoktól a modellektől, amelyeket még nem hoztak nyilvánosságra, és ezért felelőtlenség lenne nem komolyan venni a figyelmeztetéseket.
Megfontolások a döntéshozók számára
Ezek a figyelmeztetések nehezen ellenőrizhetők és értékelhetők, de a cikk szerzői (Mike és Jim) szerint különösen a törvényhozóknak és a releváns szövetségi szerveknek tudniuk kell, hogy az AI tervezői maga is látják a potenciális katasztrofális kimeneteket, ha nem változik meg az erősebb modellek áttekintésének és kiadásának gyakorlata az Egyesült Államokban, Kínában és másutt.
Hogyan gondolkodjunk erről
A kutatók nem azt állítják, hogy az AI azonnali, közvetlen és biztos fenyegetést jelent; azt hangsúlyozzák, hogy a technológia gyorsabban fejlődik, mint várták, és hamarosan képes lehet önmagát fejleszteni (rekurzív önfejlesztés). Ha ez bekövetkezik, a rendszer gyorsabban fejlődik tovább, és jelentősen nehezebb lesz előre jelezni vagy irányítani a viselkedését.
