OpenAI nyilvánosságra hozta azokat a National Security Principles (nemzetbiztonsági elvek) dokumentumot, amely bemutatja, hogyan közelíti meg a kormányzati és nemzetbiztonsági célú együttműködéseket. A közlés célja átláthatóság növelése azzal kapcsolatban, milyen feltételekkel és korlátokkal engedhető vagy tiltott a technológiájuk használata érzékeny területeken.
Miért teszik közzé az elveket?
A cég szerint a korszerű, egyre képzettebb és képességesebb mesterséges intelligencia rendszerek egyre gyakrabban kerülnek alkalmazásra állami feladatokban, köztük nemzetbiztonsági szerepkörökben. Ez új követelményeket támaszt az AI-fejlesztők, a kormányok és a civil társadalom együttműködésével kapcsolatban, különösen annak eldöntésében, hogy ezek a rendszerek milyen feltételek mellett használhatók érzékeny környezetben.
OpenAI álláspontja szerint a demokratikus társadalmaknak lehetősége legyen AI-t használni például emberek védelmére, kritikus infrastruktúra védelmére, közszolgáltatások nyújtására és emergens fenyegetések kezelésére — ideértve a kibervédelem és biobiztonság területeit is, ahol az AI valós előnyt adhat a védekezőknek. Ugyanakkor hangsúlyozzák, hogy az ilyen rendszereket olyan módon kell alkalmazni, hogy azok erősítsék a demokratikus elszámoltathatóságot, az érdemi emberi döntéshozatalt és a jogállamiságot, valamint ne kovácsoljanak hatalmi koncentrációt.
A dokumentum kidolgozása
A nemzetbiztonsági elveket cégszintű, keresztfunkcionális folyamat eredményeként dolgozták ki. A munkában részt vett David Kris, elismert nemzetbiztonsági szakértő, aki külső, független megítélést biztosított a folyamatban. Emellett a vállalaton belül meghallgatásokat tartottak, és több csapat — kutatás, biztonság, politika és kormányzati partnerségek képviselői — vették ki részüket az anyag kialakításából.
Bővülő védelmi együttműködések
OpenAI bejelentése szerint éppen most bővíti együttműködéseit az Egyesült Államok kormányával és szövetségeseivel elsősorban védelmi jellegű területeken, különösen kiber- és biobiztonságban. Az elmúlt hónapban a Daybreak nevű kibervédelmi program részeként Trusted Access for Cyber partnerségeket hoztak létre Ausztráliával, Kanadával, Japánnal, a Koreai Köztársasággal (Republic of Korea), Franciaországgal, Németországgal, Lengyelországgal, Hollandiával és uniós intézményekkel, köztük az ENISA-val. Emellett növekvő és megbízható partnerséget építenek a brit kormánnyal kibervédelem, tesztelés és értékelés terén.
Hasonló megközelítést alkalmaznak a biobiztonság területén is: a bejelentés szerint múlt hónapban bővítették a Trusted Access lehetőségét a GPT‑Rosalind modellhez egyes amerikai kormányzati és szövetséges partnerek számára, akik közegészségügyi és biodefense feladatokat támogatnak.
Milyen korlátokat vezetnek be?
A közzététel megerősíti a cég korábbi, idén korábban bejelentett szerződéses korlátozásait is. Ezek között szerepel, hogy OpenAI technológiát nem lehet használni tömeges belső megfigyelésre, nem lehet azt alkalmazni autonóm fegyverrendszerek irányítására, és tilos a technológiát magas kockázatú, automatizált döntések meghozatalára használni. A vállalat szerint ezek a korlátozások összhangban állnak az újonnan nyilvánosságra hozott elvekkel.
A cég szerepe a döntéshozatalban
OpenAI hangsúlyozza, hogy fontos egyértelművé tenni, mit szabad és mit nem szabad a technológiával tenni, és átláthatónak lenni ezen szabályok mellett. Ugyanakkor kiemelik: a legfontosabb és legvitatottabb kérdésekben — különösen a nemzetbiztonságot érintő AI-alkalmazások terén — a demokratikus döntéshozatalnak kell meghoznia a végső döntéseket. A vállalat feladata az, hogy informálja és segítse ezeket a folyamatokat, nem pedig az, hogy egyedül döntsön helyettük.
Ennek megfelelően OpenAI támogatja a jogalkotási törekvéseket, amelyek célja bizonyos, különösen kockázatos katonai AI-használatok, például a belső megfigyelés, autonóm fegyverrendszerek és más, közvetlenül az Egyesült Államok nemzetbiztonságát érintő magas kockázatú alkalmazások szabályozása.
Közzététel és további információk
A vállalat a dokumentumot nyilvánosságra hozta, hogy átlátható módon ismertesse, hogyan közelíti meg a kormányzati és nemzetbiztonsági partnerségeket, és hogy megossza azokat a normákat, amelyek mentén együttműködéseit bővíti. A részletes elveket a cég honlapján tették közzé.
