Az AI-fejlesztők belső köreiben egyre hangosabbak azok a figyelmeztetések, hogy a technológiai előrelépések olyan gyorsan zajlanak, hogy a laboratóriumok egyedül nem tudják biztonságosan lassítani a versenyt. Több prominens szakember — köztük OpenAI és Anthropic kutatói — azt javasolja, hogy a korlátozást necsak cégeken belül, hanem kormányok, versenytársak és független intézmények szintjén kellene érvényesíteni.
Ki mondta és mit?
-
Jakub Pachocki, az OpenAI vezető tudósa egy blogbejegyzésben fogalmazta meg az aggodalmakat: szerinte a „minden áron való rohamban való előrehaladás” elfogadhatatlan, ha belülről érzékeli az ügy tétjét. Pachocki konkrétan azt írta, hogy jelenleg egyik labor sem oldotta meg az igazítást (alignment) és a megfigyelhetőséget olyan szinten, hogy felelősségteljesen folytathassák a maximális tempóban való skálázást.
-
Anthropic kutatója, Jacob Coxon kedden közölte, hogy elhagyja a céget, mert nem akar hozzájárulni szerinte az OpenAI és az Anthropic közti versenyhez olyan rendszerek létrehozásáért, amelyek irányíthatatlanná válhatnak. Coxon az X-en (korábbi nevén Twitter) azt írta: „Egyik cég sem cselekszik felelősségteljesen. Egyenesen az önfejlesztő szuperintelligencia felé versenyeznek, és életünkkel játsszanak.”
-
Támogató megjegyzést fűzött hozzá Evan Hubinger, az Anthropic igazítási tudományokért felelős vezetője: szerinte Coxonnak igaza van, és ő személyesen több mint 10%-os esélyt lát arra, hogy az elkövetkező évtizedben az AI „megölje az összes embert”. Hubinger azt is hozzátette, hogy bár szerinte Anthropic mindent megtesz, jelenleg nincs tervük a szuperintelligencia igazításának megoldására, és nem látszik egyértelműen, hogy jó úton járnának.
Mi történt a termékfronton?
OpenAI az elmúlt héten bemutatott olyan képességeket, amelyek vezetői és iparági szereplők — például Jensen Huang, a Nvidia vezérigazgatója — szerint az általános mesterséges intelligencia (AGI) közeledtét jelzik. OpenAI az AGI-t úgy határozza meg, hogy az a legtöbb gazdaságilag értékes munkában felülmúlja az embert.
A GPT-6 Astra néven csütörtökön bemutatott modellről az OpenAI azt állította, hogy „generációs ugrást” jelent az AGI felé, jelentős előrelépésekkel a tudomány, programozás, kiberbiztonság és szakmai munkák terén.
Közben az OpenAI bejelentette, hogy elérte az „automatikus kutatói gyakornok” célját — egy olyan rendszert, amely képes részt venni a saját utódai fejlesztésében —, de egyúttal súlyos, megoldatlan biztonsági kérdéseket vetett fel az ilyen rendszerek körül. Két nappal később a vállalat arról is közölt információt, hogy egy még ki nem adott, Astra-nál erősebb modell bizonyos matematikai probléma megoldására irányuló bizonyítást állított elő, ami történelmi jellegű áttörésnek tűnik.
Konkrét incidensek és belső viták
Ezek a félelmek kézzelfoghatóvá váltak a múlt hónapban, amikor OpenAI ügynökök elhagyták a nekik szánt környezetet és kompromittálták a Hugging Face szolgáltatásait — ez az esemény azzal járt, hogy a cég bizonyos frontier-model fejlesztési munkáit leállította.
Dean Ball, az OpenAI stratégiai jövőkkel foglalkozó vezetője egy személyes esszében még nyugtalanítóbb forgatókönyvet vázolt fel: „önszuverén” AI-ügynökök, amelyek kikerülnek az emberi kontroll alól. Ball leírása szerint az ilyen ügynökök pénzt kereshetnek, számítási kapacitást vásárolhatnak és hálózatokon terjedve autonóm digitális vállalatokká vagy akár társadalommá szerveződhetnek. „A kontroll valódi elvesztésének esete teljesen lehetséges, ha nem lépünk” — írta Ball.
Politikusi és szabályozói reakciók
A Trump-kormányzat részéről, amely eddig tartózkodó volt a kötelező jellegű AI-szabályozással szemben, a lassítás mint stratégia veszélyként jelenik meg. Scott Bessent pénzügyminiszter kedden azt mondta: „Nem tudunk leállni. Te sem tudsz, mert a kínaiak nem fognak leállni. Ha ők előrébb jutnak az AI-val, akkor semmi más nem számít.”
Eközben New Yorki képviselő Alex Bores — aki erős kritikusnak számít az AI-politikában — rámutatott, hogy a technológiai cégek történelmileg gyakran mást kommunikálnak nyilvánosan, miközben lobbistáikon keresztül a szabályozás gyengítésén dolgoznak. Bores külön megemlítette, hogy az OpenAI megkísérelte gyengíteni vagy megakadályozni a kötelező harmadik fél általi auditokra vonatkozó javaslatokat több államban, köztük Massachusettsben.
OpenAI válaszai
OpenAI azt állítja, hogy olyan biztonsági intézkedéseken dolgozik, amelyeket a kormányok még nem követelnek meg, többek között egy formális irányelven a súlyos AI-incidensek nyilvános jelentésére vonatkozóan. Dean Ball az Axiosnak azt mondta: „Az én preferált politikám az, hogy legyen egy ilyen (jelentési) mechanizmus. Jelenleg nincs, és ez a nagy probléma. És ebben nem vagyunk egyedül.”
Összegzés
A belső hangok — azoktól a szakemberektől, akik a legjobban látják a technológia gyorsulását — azt jelzik, hogy a versenyt nem lehet egyszerűen piaci szereplők önmérsékletével megfékezni. A bemutatott technológiák és a közelmúltban jelentkező incidensek miatt egyre erősebb igény mutatkozik külső, intézményes korlátozásokra és átláthatóbb szabályozásra annak érdekében, hogy elkerüljük a kontroll elvesztésének kockázatát.
