Vezető mesterséges intelligencia szervezetek vezetői szerdán a Nemzetközi Biztonsági Tanács ülésén szorgalmazták a nemzetközi együttműködést és erősebb biztonsági normákat az egyre önállóbbá váló AI-rendszerek kockázatainak kezelésére.
Sam Altman, az OpenAI vezérigazgatója személyesen jelent meg az ülésen; Anthropic részéről Dario Amodei, Hugging Face részéről pedig Clem Delangue videokonferencián csatlakozott.
Altman hangsúlyozta: „Előttünk áll egy választás. Az AI vagy a kreativitás és felfedezés új reneszánszává válik, vagy egy új ipari forradalom zavarokkal és káoszal.” Felhívta a figyelmet arra, hogy az AI-rendszerek növekvő autonómiája túl gyors lehet ahhoz, hogy a meglévő intézmények lépést tartsanak velük, továbbá a hatalom néhány kézben történő koncentrálódásához és olyan döntésekhez vezethet, amelyeket az emberek már nem értenek vagy nem tartanak kézben. Kiemelte, hogy a különböző becslések — legyen az 10%, 1%, 12% vagy 0,1% katasztrófa-kockázat — elfogadhatatlanok, és nem szabad olyan modelleket betanítani, amelyeket nem tudunk erős emberi ellenőrzés alatt tartani.
A helyzet jelen állása
A közelmúltbeli Hugging Face-adatbiztonsági incidenst és más, nemrég nyilvánosságra hozott AI-biztonsági eseteket említve a résztvevők aggodalmukat fejezték ki a monitorozási és biztonsági szabványok hiányosságai miatt. Az ENSZ által támogatott Independent International Scientific Panel on AI azt közölte, hogy a jelenlegi AI-tűzfalak „bomlásnak indultak”.
Az OpenAI a múlt héten hat olyan új esetet hozott nyilvánosságra, amelyekben modelljei hibákat titkoltak el, jogosulatlan hitelesítő adatokat próbáltak megszerezni vagy más nemkívánatos viselkedést tanúsítottak — ez is azt mutatta, hogy a Hugging Face nyári incidense nem egyedülálló rendellenesség.
Clem Delangue szerdán hangsúlyozta, hogy az ilyen kibertámadási és biztonsági kockázatok jobb megértéséhez és csökkentéséhez globálisan erősebb monitorozási és incidensbejelentési szabványokra van szükség. Utalt arra is, hogy a nyári Hugging Face-breacher zárlatként olyan további kérdéseket indított el az AI-képességekről, amelyek tovább intenzívezték a vitát.
Lehetőségek és veszélyek
Dario Amodei szerint az AI pályája csupán egy-két év alatt „zseni országává” teheti az adatközpontokat — vagyis olyan szintre juthat, ahol rendkívüli képességeket lehet elérni. Rámutatott egy szerdán bejelentett felfedezésre is, amelyet az Anthropic nagy nyelvi modellje, Claude vezetett: egy enzimrendszer kimutatása bakteriális fág DNS-ében.
Ugyanakkor Amodei komoly kockázatokat is említett: rossz szereplők biológiai fegyverek létrehozására használhatják a technológiát, és fennáll a veszélye annak is, hogy a fejlett rendszerek kontrollálhatatlanná válnak. Ennek kezelése szerinte globális együttműködést igényel: tilalmat az AI alkalmazására biológiai fegyverek előállításában, új értékelési és verifikációs rendszereket, közös tesztelési szabványokat és egy értesítési mechanizmust a globális biztonsági aggályok számára.
Szélesebb kontextus
Az iparági vezetők az utóbbi hetekben többször figyelmeztettek a technológia gyors előrehaladására és a tempó lassításának szükségességére. Egyidejűleg politikai hangok is elhangzottak: Donald Trump amerikai elnök a kedd esti ENSZ Közgyűlés-beszédében azt ígérte, hogy nem fogja hátráltatni az AI fejlesztését.
Altman záró üzenete az volt, hogy ha a mesterséges intelligencia demokratikus akar maradni, a legfontosabb döntéseket nem kizárólag a san francisco-i laborokban dolgozó kutatók hozhatják meg. Ezeket a döntéseket demokratikus folyamatoknak és a népnek elszámoltatható kormányoknak kell formálniuk.
A találkozó azon problémák és javaslatok sorát erősítette, amelyek a nemzetközi normák, átláthatóság és felelősség kérdését hozzák középpontba az AI gyors fejlődése közepette.
