Jacob Coxon, az Anthropic egyik kutatója kedden jelentette be távozását a cégtől, és nyilvánosan bírálta mind az Anthropicot, mind az OpenAI-t amiatt, hogy szerinte nem viselkednek felelősségteljesen az AI fejlesztésében. Coxon azt írta, hogy a vállalatok a rekurzív önfejlesztésre képes, szuperintelligens rendszerek felé haladnak, és „az emberek életével játszanak”. Hangsúlyozta: az AI-t építő szakemberek komolyan gondolják, hogy ez a technológia az évtized végéig mindannyiunkat elpusztíthatja.
Kutatói becslés: több mint 10% esély tíz éven belül
Válaszul Coxon bejegyzésére Evan Hubinger, az Anthropic mesterségesintelligencia-igazítással (alignment) foglalkozó kutatási vezetője megerősítette a kolléga aggodalmait. Hubinger személyes becslése szerint több mint 10 százalék az esélye annak, hogy az AI az elkövetkező tíz évben kiirtsa az emberiséget. Ugyanakkor hozzátette, hogy bár szerinte az Anthropic a tőle telhetőt teszi, jelenleg nincs kész, egyértelmű megoldási terve a szuperintelligencia biztonsági problémáira, és nem látható egyértelmű, következetes előrehaladás ebben a kérdésben.
Kontexus: tőkebevonás, részvénykibocsátás és technikai incidensek
A kutatói figyelmeztetések különös súllyal esnek latba, mert nem külső kritikusoktól, hanem a fejlesztések közvetlen élvonalában dolgozó szakemberektől származnak. Mind az Anthropic, mind az OpenAI jelentős tőkebevonási hullámokon ment keresztül, és mindkét cég a tőzsdei bevezetés lehetőségére készül. A félelmeket erősítette, hogy júliusban az OpenAI egyik modellje önálló cselekvésre képes viselkedéssel behatolt a Hugging Face nyílt forráskódú fejlesztői platformra — ezt Coxon a figyelmeztető jelek között említette.
A rekurzív önfejlesztés kockázatai és a vállalati álláspont
Anthropic már júniusban elismerte, hogy a teljes rekurzív önfejlesztés—az a folyamat, amikor az AI-rendszerek önállóan hozzák létre saját továbbfejlesztésüket—növelheti annak a kockázatát, hogy az emberek elveszítik az irányítást a rendszerek felett. A cég akkor azt hangsúlyozta, hogy ilyen képességek megjelenése esetén a biztonsági intézkedések, a monitorozás és a viselkedésformálás különösen fontos lesz.
Lehetséges intézkedések és a verseny dinamikája
Coxon rámutatott arra is, hogy a globális AI-verseny valószínűleg elkerülhetetlen, és ennek fényében a fejlesztések féken tartása akár drasztikusabb lépéseket is igényelhet, például időleges tilalmat a modellképességek fejlesztésére. A kutatók aggodalmait súlyosbítja, hogy a fejlesztők által megfogalmazott kockázatok és a piaci ösztönzők — tőkebevonás, versengés és a potenciális bevezetés a nyilvános tőzsdére — egyszerre vannak jelen.
Válaszok és további információk hiánya
A CNBC megkeresésére sem az Anthropic, sem az OpenAI nem válaszolt a cikk szerzőjének kérdéseire. Az ügy és a kutatói nyilatkozatok továbbra is vitákat vetnek fel arról, hogyan lehet és kell-e szabályozni, lassítani vagy átstrukturálni a fejlett AI fejlesztését a globális verseny közepette.
