OpenAI és a lengyel NASK Nemzeti Kutatóintézet megállapodást kötött arra, hogy együttműködnek a mesterséges intelligencia (MI) biztonságának, védelemének és műszaki kutatásának területén. A megállapodás célja, hogy mindkét szervezet szakértelmét összekapcsolva jobban megértsék a feltörekvő kockázatokat, megerősítsék a védekező mechanizmusokat, és feltérképezzék, miként járulhat hozzá a fejlett MI egy biztonságosabb és ellenállóbb digitális ökoszisztémához.
Miért fontos az együttműködés?
Ahogy az MI-rendszerek képességei növekednek, egyre fontosabbá válik a fejlesztők és a nyilvános kutatóintézetek közötti nemzetközi együttműködés a kockázatok megértésében és a védelmi intézkedések kialakításában. OpenAI korábbi együttműködései — többek között az amerikai Center for Advancing Standards and Innovation for Super Intelligence (CAISSI) és a brit AI Security Institute (AISI) szereplőivel — már hozzájárultak védelmi intézkedések megerősítéséhez, AI-ügynökök biztonsági sebezhetőségeinek feltárásához és a határvonal-technológiai biztonság előmozdításához.
A NASK NKI (AI Safety Research Center) a lengyel Mesterséges Intelligencia Biztonsági Intézetként (Polish Artificial Intelligence Safety Institute / AISI) fog működni a megállapodás értelmében, és közösen fognak dolgozni OpenAI-jal az egyre képzettebb rendszerek értékelésén, potenciális sebezhetőségek azonosításán és a védelmek megerősítésén.
Nemzetközi szabványok és nemzeti tapasztalatok összekapcsolása
OpenAI felszólította az Egyesült Államokat és más országokat, hogy működjenek együtt nemzetközi műszaki szabványok kidolgozásában a határvonal-technológiákra vonatkozóan, és használják fel az MI-biztonsági intézetek és szabványosító testületek szakértelmét. Közös megközelítések a képességek értékelésére, a kockázatok felmérésére, a védelmi intézkedések tesztelésére és az incidensek jelentésére lehetővé tehetik, hogy az államok összehasonlítsák a bizonyítékokat és hatékonyabban reagáljanak a határokon átnyúló kockázatokra. A NASK-pel kötött együttműködés azt mutatja, hogy a nemzeti szakértelem bevonása értéket adhat ennek a nemzetközi erőfeszítésnek.
NASK szerepe és korábbi közös munka
A NASK szakértelme széles körű kutatásokon alapul az MI-biztonság terén, amelyet közvetlenül alkalmaz a közszolgáltatások és Lengyelország digitális információs ökoszisztémájának védelmére. A megállapodásra azért is szükség van, mert nemzeti partnerek nélkül a globális MI-biztonsági szabványok könnyen elszakadhatnak azoktól a valós használati környezetektől, ahol az MI ténylegesen működik.
A megállapodás továbbá épít OpenAI már meglévő lengyelországi kibervédelmi együttműködésére. Júliusban a CERT Polska — amely a NASK részeként működik — hozzáférést kapott OpenAI olyan kiber-képes modelleihez, amelyeket a Daybreak szolgáltatáson keresztül biztosítottak. A CERT Polska csapata OpenAI-modelleket használva hat sebezhetőséget fedezett fel a MikroTik RouterOS-ben, köztük olyan hibákat, amelyeket kombinálva az érintett eszközök hitelesítés nélküli átvételére lehetett felhasználni. A gyártó kiadta a javításokat, amelyeket a CERT Polska megerősített, hogy megakadályozták az általa megfigyelt támadásokat.
Következmények
A NASK és OpenAI közötti megállapodás várhatóan hozzájárul a határvonal-technológiák biztonságának jobb megértéséhez és a konkrét védekezési eszközök fejlesztéséhez, különös tekintettel a nemzeti szintű alkalmazásokra és a kritikus infrastruktúrára. A partnerség példája azt is szemlélteti, hogy a technológiai vállalatok és a nemzeti kutatóintézetek együttműködése hogyan segíthet feltárni és orvosolni a valós sebezhetőségeket.
