A világ vezető mesterségesintelligencia-fejlesztő vállalatainak vezetői és neves kutatók az ENSZ Biztonsági Tanácsának ülésén figyelmeztettek a fejlett MI-rendszerek biztonsági kockázataira, és nemzetközi együttműködést sürgettek az ilyen rendszerek felügyeletére.
Sam Altman, az OpenAI vezérigazgatója azt hangsúlyozta, hogy az MI fejlesztése fordulóponthoz érkezett, ezért „rendkívüli óvatosságra” van szükség. Altman szerint a technológia egyszerre nyithat új kreatív és felfedezési lehetőségek előtt, de súlyos társadalmi felforduláshoz is vezethet. Két különösen fontos veszélyt említett: egyrészt azt, hogy a rendszerek fejlődése olyan gyors lehet, hogy az emberek nem lesznek képesek megfelelően nyomon követni vagy szükség esetén beavatkozni; másrészt azt a kockázatot, hogy túl nagy hatalom összpontosuljon néhány vállalat vagy ország kezében.
Yoshua Bengio kanadai kutató, akit gyakran az MI egyik „keresztapjaként” emlegetnek, szintén a kockázatok realitására hívta fel a figyelmet. Bengio az üléseken egyértelművé tette, hogy a veszélyek közvetlenek, és egyetlen ország önmagában nem képes hatékonyan kezelni azokat.
Dario Amodei, az Anthropic vezérigazgatója szerint a mesterséges intelligencia a világ egyik legfontosabb biztonsági kérdésévé vált, és rossz kezelés esetén akár az egész emberiségre is jelenthet kockázatot. Amodei globális szabályozás bevezetését javasolta az új MI-modellek tesztelésére, valamint a technológia biológiai fegyverek fejlesztésére való felhasználásának tiltására.
Az MI-kormányzásról és szabályozásról folytatott vita során a nemzetközi szereplők eltérő álláspontokat képviseltek. Michael Kratsios, a Fehér Ház tudományos és technológiai tanácsadója elutasította a globális MI-szabályozás ötletét azzal az érveléssel, hogy nehéz hatékonyan szabályozni egy olyan technológiát, amelyet még nem értenek teljesen. Ezzel szemben Fu Cong, a Kínai Népköztársaság ENSZ-nagykövete a szabályozási keretek, a válságkezelés és a nemzetközi együttműködés erősítését sürgette.
Az esemény jelentőségét az adja, hogy a technológiai vezetők és policy-képviselők hangja párhuzamosan jelenik meg a technológia gyors fejlődésével: mind a kutatók, mind néhány iparági vezető olyan nemzetközi megoldásokat javasolnak, amelyek túlmutatnak egyetlen állam vagy vállalat hatókörén.
Kapcsolódó rendezvény
A témáról további vitákra és szakmai beszélgetésekre várják az érdeklődőket a Portfolio által szervezett AI & Digital Transformation konferencián, amelyet november 26-án tartanak. Regisztrációs és részletek meghirdetve.
Megjegyzés: a címlapkép illusztráció.
