OpenAI hétfőn nemzetközi mesterséges intelligencia (MI) biztonsági szabványokra vonatkozó javaslatcsomagot tett közzé, miközben világvezetők — különösen az Egyesült Államok és Kína — azt mérlegelik, hogyan csökkentsék az MI-hez kapcsolódó kockázatokat.
A kezdeményezés célja, hogy meghatározott, nemzetközileg elfogadott eljárások és mérőszámok álljanak rendelkezésre az MI-rendszerek tesztelése és éles működés közbeni incidenseinek osztályozására, jelentésére és kezelésére. OpenAI szerint ezek a szabványok lefednék azokat az eseményeket, amelyek már a telepítés előtti tesztkörnyezetben jelentkeznek, és azokat is, amelyek a valós világban fordulnak elő.
A javaslat a globális együttműködésre épít: OpenAI azt ajánlja, hogy világszerte működő MI-biztonsági intézeteket használjanak fel a szabványalkotáshoz, és hogy a koordinációt részben a U.S. Center for AI Security and Innovation végezze, amely az Egyesült Államok Kereskedelmi Minisztériumához tartozik.
Mire reagál a javaslat? — diplomácia és értesítési mechanizmusok
A javaslat közzététele a diplomáciai háttérrel egy időben történt: a hírek szerint U.S. Treasury Secretary Scott Bessent és kínai Vice Premier He Lifeng a hétvégén tárgyaltak egy olyan amerikai–kínai párbeszédről, amelynek célja, hogy értesítsék egymást, amikor egy MI-incidens nemzeti biztonsági kockázatot ér el. OpenAI megoldásai ezeknek a részleteknek a kidolgozását támogatnák azáltal, hogy közös mérőszámokat és jelentési protokollokat javasolnak.
Mit javasol OpenAI?
- A meglévő, nemzetközi MI-biztonsági intézetek bevonását a szabványalkotásba.
- A U.S. Center for AI Security and Innovation szerepvállalását a koordinációban.
- Megosztott, globális mérőszámok és osztályozási rendszerek kialakítását az MI-incidensek felismerésére és kategorizálására.
- Egyértelmű eljárásokat arra, hogyan kell nyomon követni, jelenteni és reagálni az úgynevezett alignment (összhang) problémákra.
Egy OpenAI-t képviselő forrás szerint a cél, hogy nemzetközi szabványok legyenek érvényben mind a tesztkörnyezetben előforduló, mind a valós világban jelentkező incidensekre.
Miért számít ez?
Az Egyesült Államok kockázatkezelési megközelítését nagyban befolyásolják az iparági ajánlások; így az olyan szereplők javaslatai, mint az OpenAI-é, hatással lehetnek a nemzetközi szabályozási és diplomáciai lépésekre. A javaslatok közös mérőszámokra és jelentési mechanizmusokra építenek, ami megkönnyítheti az államok közötti gyorsabb és átláthatóbb kommunikációt súlyos MI-incidensek esetén.
Mit érdemes figyelni továbbra is?
A következő napokban várhatóan további vélemények érkeznek majd más MI-laboroktól és iparági szereplőktől. A figyelem középpontjában az amerikai elnök és a kínai elnök, valamint a héten esedékes tárgyalásaik állnak, beleértve egy állami vacsorát is, amelyen iparági vezetők is részt vesznek. Sam Altman pedig szerdán New Yorkban, az Egyesült Nemzetek Biztonsági Tanácsában tartandó beszédében ismerteti az OpenAI javaslatait.
(Összhangban a forrással: a közlemény hétfőn jelent meg; a beszéd szerdán várható. A cikk nem tartalmaz további részleteket a konkrét mérőszámokról vagy a tárgyalások pontos időpontjairól.)
