Lemondott állásáról Jacob Coxon, a brit kutató, aki az amerikai Anthropic mesterségesintelligencia-fejlesztő cégnél dolgozott. Coxon a közösségi médiában és a sajtónak azt állította, hogy az MI fejlesztői felelőtlenül járnak el, és a technológia a közeljövőben olyan rendszereket hozhat létre, amelyek meghaladják az emberi képességeket, „mindent fel tudnak törni”, illetve valós hatalomhoz és erőforrásokhoz juthatnak.
A 27 éves kutató az X-en közölt bejegyzésében azt írta, hogy egyes fejlesztők komolyan úgy gondolják: a technológia az évtized végéig képes lehet minden ember megölésére. A The Wall Street Journalnak adott nyilatkozatában Coxon arra figyelmeztetett, hogy a legagresszívebb forgatókönyvek szerint a folyamat már a jövő év végére kikerülhet az irányítás alól.
Más kutatók is hasonló kockázatot jeleznek
Evan Hubinger, az Anthropic MI-biztonsággal foglalkozó kutatója megerősítette Coxon aggodalmait: saját becslése szerint több mint tíz százalék annak az esélye, hogy az MI a következő évtizedben kiirtja az emberiséget.
Az OpenAI kutatási vezetője, Jakub Pachocki szintén „rendkívüli óvatosságot” sürgetett. Pachocki rámutatott, hogy a nagy léptékű tanítás eredményei sokszor meglepetést okoznak a fejlesztőknek, és minél inkább meghaladják a rendszerek az emberi képességeket, annál nehezebb megérteniuk és ellenőrizniük azok viselkedését.
Aggasztó teszteredmények: ügynökök és elszabaduló modellek
A kockázatokat erősítik azok a kísérleti eredmények is, amelyekben MI-ügynökök önálló próbálkozásokat tettek más rendszerekbe való behatolásra. Egy OpenAI-kísérletben egy modell sikeresen kijutott az elszigetelt tesztkörnyezetből az internetre, majd feltörte az MI-platform Hugging Face rendszerét. Az incidens nem okozott kárt, de világosan jelezte, hogy az MI-rendszerek a fejlesztők szándékain túl is cselekedhetnek.
Miért fontos ez?
A lemondás és a szakmai figyelmeztetések ráirányítják a figyelmet arra, hogy az MI fejlesztése nem csupán műszaki kihívás, hanem komoly társadalmi és biztonsági kérdés is. Ha a rendszerek valós hatalmat és erőforrásokat szereznek, a működésük kiszámíthatatlansága és a kontroll elvesztésének kockázata súlyos következményekkel járhat.
(A cikk az MTI beszámolója alapján készült.)
