Távozott az OpenAI egyik biztonsági vezetője, David Robinson, aki a ChatGPT fejlesztői csapatán belül az új termékekhez és fejlesztésekhez kapcsolódó biztonsági jelentéseket készítette. A Guardian beszámolója szerint Robinson távozását részben azzal indokolta, hogy a mesterséges intelligencia (MI) területén tevékenykedő cégek „messze nem elég óvatosak”, és szerinte a problémák gyökere a vállalati kultúrában keresendő.
Robinson a cég fejlesztési tempóját is bírálta: megjegyezte, hogy gyakran egyik újításról a másikra ugrálnak, miközben nem sikerül elérniük a szükséges biztonsági szintet. Ugyanakkor megjegyezte, hogy az OpenAI az utóbbi hetekben lassabbnak tűnik: a héten például bejelentették egy új generációs MI-modell kiadásának elhalasztását, miután a belső tesztelés során biztonsági aggályok merültek fel.
Más szakértők is aggodalmat fogalmaztak meg
A témához kapcsolódóan Geoffrey Irving — aki korábban az OpenAI-nál és a DeepMind-nál dolgozott, jelenleg pedig a Resolution vezető kutatója — szombaton a fejlesztések üteme miatt aggódók sorába állt. A Time magazinban megjelent cikkében kijelentette, hogy a mesterséges intelligencia potenciális pusztító erejéről szóló figyelmeztetések alábecsülik a helyzet súlyosságát, és szélsőséges kockázatot vet fel: szerinte 50 százalék az esélye annak, hogy az embernél intelligensebb MI-rendszerek kifejlesztése végül emberi pusztuláshoz vezethet. Irving hangsúlyozta, hogy a következő 2–10 évben hozott döntések meghatározóak lesznek.
Egyes szereplők és elemzések hangsúlyozzák, hogy több MI-fejlesztő maga is kongatja a vészharangot, mondván, hogy éppen most dől el az emberiség sorsa és a szabályozatlan fejlesztés súlyos következményekkel járhat. Ugyanakkor vannak szkeptikusok is: például Steve Eisman, aki a 2008-as pénzügyi válságot megelőzően ismertté vált, azt állítja, hogy az MI-ben érdekelt cégek érdeke pánikot kelteni a biztonsági aggályok körül.
Javasolt lépések: iparági tapasztalatok és új tudomány
David Robinson két konkrét változtatást javasolt. Elsőként azt, hogy az MI-vállalatok támaszkodjanak olyan, nagy kockázatú iparágak — például a nukleáris energia és a repülés — biztonsági szakértelmére. Másodsorban egy új, célzott tudományterület kidolgozását szorgalmazta, amely arra szolgálna, hogy a nagyteljesítményű, részben autonóm rendszereket működés közben is biztonságosan lehessen felügyelni és kordában tartani.
Robinson megnyilvánulásai, valamint Irving és más szakértők figyelmeztetései részei annak a szélesebb vitának, amely az utóbbi időben erősödött az MI fejlesztésének üteméről, a szabályozás szükségességéről és a technológia által jelentett hosszú távú kockázatokról.
