Az OpenAI új kezdeményezést indít, amelynek célja, hogy segítse a demokratikus felügyeleti szerveket abban: szakértelmet és eszközöket alakítsanak ki a kormányzati mesterséges intelligencia (MI) nemzetbiztonsági alkalmazásainak megértésére és ellenőrzésére.
AI megváltoztatja a kormányok védelmi és biztonsági munkáját: segíthet a kibertámadások megakadályozásában, a kritikus infrastruktúra védelmében, a fenyegetések korábbi felismerésében, illetve a válsághelyzetekben a döntéshozók jobb tájékozottságában. Ha jól használják, ezek az eszközök erősíthetik a nemzetbiztonságot. Ugyanakkor a demokratikus felügyelet elengedhetetlen annak biztosításához, hogy a közfelhatalmazás gyakorlása továbbra is elszámoltatható maradjon.
Miért kell az ellenőrzésnek lépést tartania az MI-vel?
Az OpenAI szerint amint az MI felgyorsítja és hatékonyabbá teszi a nemzetbiztonsági munkát, az intézményeknek, amelyek ezt a munkát ellenőrzik, szintén alkalmazkodniuk kell. Az MI képes gyorsan és nagy léptékben hibás feltételezásokon, rosszul konfigurált célokon vagy hiányos kontextuson alapuló döntéseket hozni; az ilyen hibákat kézzel felderíteni nehezebb, mielőtt széles körben elterjednének. Az ellenőrzés különösen fontos a nemzetbiztonsági alkalmazásoknál, mert a döntések gyakran titkossággal járnak és magas kockázatú következményekkel bírhatnak.
Alapelvek és meglévő gyakorlatok
Az OpenAI hivatkozik a saját National Security Principles dokumentumára: a nemzetbiztonsági bevetésekhez olyan megfontolt óvintézkedéseket, a jelentős emberi értékelést és megfelelő felügyeletet tart szükségesnek, különösen magas tétű helyzetekben. A cég szerint fontos támogatni az ellenőrzésre hivatott intézmények kapacitásépítését is, hogy azok a sebesség és a skála növekedésével is képesek legyenek ellátni feladatukat.
Az állami intézményeknél már megvannak a hatáskörök és a felelősségek a nemzetbiztonsági tevékenységek felügyeletére. Amikor az MI ezekhez a tevékenységekhez járul hozzá, az ellenőrzési módszereknek fejlődniük kell: a hagyományos, papíralapú, munkaigényes felügyelet nehezen skálázható olyan rendszerek esetén, amelyek emberi sebességnél sokkal gyorsabban működnek.
OpenAI gyakorlata és önkorlátozása
Az OpenAI kijelenti: a nagyobb képességű rendszerek erősebb felügyeletet igényelnek, és ezt az elvet saját magára is alkalmazza. A társaság Preparedness Framework nevű keretrendszere szerint a fejlett modelleket bevezetés előtt alapos vizsgálatnak vetik alá, hogy megértsék a képességeiket és eldönthessék, elegendőek-e a védőintézkedések. A bevezetés utáni folyamatos megfigyelés és az incidensek áttekintése tovább folytatja az ellenőrzést, és a tapasztalatok visszahatnak a jövőbeli biztonsági intézkedésekre és modellfejlesztésre.
Fontos hangsúlyok az OpenAI részéről
Az OpenAI világosan leszögezi, hogy nem vállal felügyeleti szerepet a kormányok felett — ez a feladat az erre a célra létrehozott, választott tisztségviselőknek és közintézményeknek a felelőssége. Célja ehelyett az, hogy technológiai eszköztárával támogassa azokat az intézményeket, amelyeknek már megvannak a jogi mandátumaik.
A cég három alapelvet emel ki:
- Az AI erősítse, ne helyettesítse az emberi és intézményi ítélőképességet. A jogszerűségről, az alkalmas vagy helyénvaló magatartásról és a szabályoknak való megfelelésről az arra jogosult ügynökségek és jogszerűen létrehozott felügyeleti testületek döntenek.
- A kormányzati MI-használat legyen visszakövethető és érthető az arra jogosult felügyelők számára. A vizsgálóknak legyen lehetőségük megérteni, hogyan járult hozzá az MI egy döntéshez, miközben védik a titkos, magán- és biztonságérzékeny információkat.
- Az MI-t úgy kell alkalmazni, hogy az erősítse a demokratikus felügyeleti intézmények munkáját. Mivel a papíralapú, kézi ellenőrzés nem skálázható, a felügyeleti szerveknek is felelősségteljesen és érthetően kell alkalmazniuk az AI-t a mandátumuk teljesítéséhez.
Következő lépések és mércek
Az OpenAI a következő évben elő kívánja mozdítani ezt a kezdeményezést — a közlemény nem részletezi konkrét programokat vagy ütemtervet, de egyértelművé teszi, hogy a fejlesztés célja az, hogy az arra jogosult felügyelők hatékonyabban tudják ellátni kötelezettségeiket.
A siker mércéjének azt tekintik, hogy az engedélyezett felülvizsgálók jobban képesek-e teljesíteni feladataikat, és hogy a nyilvánosságnak erősebb okai lesznek-e bízni abban, hogy a kormányzati AI-rendszereket a tervek szerint használják.
Záró gondolat
Az OpenAI szerint az MI vagy a hatalom koncentrálását segítheti, vagy hozzájárulhat ahhoz, hogy a demokratikus intézmények hatékonyabban gyakorolhassák és korlátozhassák a hatalmat. A technológia önmagában nem dönt a jövőről; a jelenlegi választások és intézményi döntések alakítják majd azt, hogy melyik irányba haladunk. OpenAI ígérete szerint a kormányzati MI-használat fejlődésével továbbra is támogatni fogja azokat az intézményeket, amelyek felelősek e használat felügyeletéért.
