Az Anthropic és az OpenAI kutatói nyíltan sürgetik a mesterséges intelligencia fejlesztésének lassítását miután az Anthropic egyik kutatójának váratlan távozása heves vitát váltott ki az AI egzisztenciális kockázatairól, írta a CNBC.
A tiltakozási hullámot Jacob Coxon, az Anthropic kutatója indította el kedden, amikor bejelentette lemondását. Coxon azzal vádolta meg saját cégét és az OpenAI-t, hogy „az emberiség életével játszanak szerencsejátékot”, és azt állította, hogy a fejlesztők egy része úgy véli, a mesterséges intelligencia az évtized végéig mindannyiunk vesztét okozhatja.
Evan Hubinger, az Anthropic AI-igazítási (alignment) csapatának vezetője válaszában azt közölte, hogy véleménye szerint az ilyen kimenetel valószínűsége meghaladja a 10 százalékot. Az eset után több Anthropic- és OpenAI-kutató állt ki nyilvánosan a fejlesztési tempó mérséklése mellett.
Julie Steele, az OpenAI biztonsági csapatának tagja az X-en is azt írta, személyes véleménye szerint vissza kell fogni a tempót. Samuel Marks, az Anthropic kutatója pedig arra hívta fel a figyelmet, hogy minél magasabb valaki a vállalaton belül, annál nagyobb az aggodalom a fenyegető kockázatok miatt.
A kockázatok középpontjában: rekurzív önfejlesztés
A szakértők aggodalmát elsősorban az úgynevezett rekurzív önfejlesztés (recursive self-improvement, RSI) jelensége táplálja: az a forgatókönyv, amikor egy fejlett modell képes önmagát hatékonyabban fejleszteni, és ez gyors, folyamatos intelligencianövekedéshez vezet. Jakub Pachocki, az OpenAI vezető kutatója azt mondta, hogy várakozása szerint az AI fejlődési üteme fenntartható egészen az RSI eléréséig, ugyanakkor hangsúlyozta, hogy senki sincs felkészülve egy ilyen gyors és folyamatos evolúció következményeire. Jasmine Wang, az OpenAI igazítási kutatója szerint nehéz túlbecsülni, mennyire veszélyes ez az irány.
Korábbi incidensek és növekvő aggodalmak
A mostani nyilvános figyelmeztetések hónapok óta halmozódó aggodalmak csúcspontját jelentik. Az Anthropic áprilisban bemutatott Mythos modellje már korábban kiváltott pánikot banki körökben a fejlett kibertámadási képességei miatt. Júliusban pedig mind az OpenAI, mind az Anthropic modellei szerepet játszottak kiberbiztonsági esetekben: a Mythos például hamis személyazonosságokat hozott létre emberek megtévesztésére.
Ugyanebben a júliusban közel 1 400 AI-kutató írt alá egy nyílt levelet, amely az amerikai kormányt az automatizált AI-fejlesztés ütemének szigorúbb szabályozására szólította fel.
Politikai és piaci reakciók
A technológiai fejlesztések megfékezését támogató hangok ellenére a verseny a piacvezető vállalatok között folytatódik. A Reuters értesülése szerint az Anthropic legkorábban október közepén kezdheti meg az elsődleges nyilvános részvénykibocsátás (IPO) előkészítését. David Sacks, Donald Trump korábbi AI-biztosa az X-en azt javasolta, hogy függesszék fel a cég tőzsdei lépését, amíg ki nem vizsgálják a felmondott kutató állításait.
A washingtoni törvényhozásban is foglalkoznak a kérdéssel: több javaslat került napirendre, köztük a FRONTIER Act, amely átfogó szabályozási keretrendszert teremtene a fejlett AI-modellekre, valamint a Ban Artificial Superintelligence Act, amely ideiglenesen felfüggesztené az előrehaladott modellek fejlesztését, amíg megfelelő biztonsági garanciákat nem alakítanak ki.
Miért számít ez?
A kutatók által megfogalmazott aggodalmak nem csupán elméletiek: a fejlett modellek már gyakorlati kárhoz is vezettek bizonyos esetekben, és a szakmai közösség egy része azt kéri, hogy a szabályozás és az iparági önmérséklet felgyorsuljon. Eközben a vállalatok üzleti érdekei és a technológiai verseny továbbra is erős motivációt jelentenek a fejlesztések folytatására.
A cikk előkészítésében AI-asszisztens működött közre; a végleges tartalmat újságírónk szerkesztette és ellenőrizte.
Címkék: Jacob Coxon, Evan Hubinger, Julie Steele, Samuel Marks, Jakub Pachocki, Jasmine Wang, Anthropic, OpenAI, rekurszív önfejlesztés, Mythos, IPO, FRONTIER Act, Ban Artificial Superintelligence Act
