A Fehér Ház közölte, hogy az OpenAI-val és az Anthropic-kal tárgyalt egy keretrendszerről, amelynek célja a „frontier” — azaz a legfejlettebb — mesterséges intelligencia-modellek kiberbiztonsági kockázatainak értékelése. A társaságok a megállapodás értelmében a legnagyobb teljesítményű modelleket 30 nappal a nyilvános bevezetésük előtt be kell, hogy nyújtsák az átvilágításhoz. A további részleteket a kormányzat nem tervezi nyilvánosságra hozni.
Kritikák és aggodalmak
Az eljárás titkossága bírálókat vonzott, köztük AI-biztonsági szakértőket, akik szerint egy zárt rendszer gyengítheti a köz bizalmát abban, hogy a kormány képes megfelelően felmérni és kezelni az új kockázatokat. A kritikusok azzal érvelnek, hogy olyan szabályozási eljárások, mint az új gyógyszerek engedélyezése vagy a gépjármű-biztonsági tesztek általában nyilvános, és a titkos vizsgálatok nem növelik a transzparenciát.
Miért választotta a kormány ezt az utat?
A nyilatkozat és az elemzések szerint a cél nem feltétlenül az, hogy „elrejtsék a labdát”, hanem hogy a kormányzat előnyt szerezzen az előttük álló technológiai változások kezelésében. Hasonlattal élve: az 1920-as évekbeli repülés megjelenésekor a technológia adott volt, de a biztonság hosszú évtizedek alatt alakult ki; az Egyesült Államok most próbál előre felkészülni arra, amit a legfejlettebb AI rendszerek hozhatnak.
A zárt átvilágításnak stratégiai jelentősége lehet különösen a kibertámadó és védekező képességek terén — olyan területeken, ahol a részletek nyilvánosságra hozatala önmagában kockázatot jelentene. Emellett a magánszektorban már jelentős kutatás és tapasztalat halmozódott fel az AI-biztonság terén, így a kormányzati iránymutatások célja részben az, hogy gyorsabban megszerezzék a szükséges tudást.
Mire nem számíthatunk?
A cikk hangsúlyozza, hogy kevés az esély arra, hogy egy AI-modellt valaha teljes biztonsággal „jóvá lehessen hagyni”. Az AI-technológia iparágakra kiterjedő használata és a biztonsági értékelések tanulságai gyakran a korábbi hibákból erednek. Egyetlen laboratórium, civil szervezet vagy kormányhivatal sem képes maradéktalanul cáfolni a legszélsőségesebb AI-biztonsági aggodalmakat — például azt a hipotézist, hogy a jövőben az AI olyan mértékben válhat önállóvá, hogy az emberiség elveszíti felette az irányítást. Ha ezt az érvet komolyan vesszük, akkor ez az első olyan technológia a történelemben, amelynél nem engedhetjük meg magunknak a „tanuljuk meg a hibákból” megközelítést.
Milyen termékekre terjed ki az átvilágítás?
Politico forrásai szerint a Fehér Ház átvilágítása elsősorban az amerikai fejlesztők legfelső kategóriás termékeire fókuszálna, és nem terjedne ki az olcsóbb AI-szoftverekre vagy kisebb modellekre. Ez azt jelenti, hogy a vizsgálat célpontjai a legnagyobb hatású, legnagyobb képességű rendszerek lesznek.
Összegzés
A Fehér Ház kezdeményezése arra irányul, hogy titkos keretek között vizsgálja a legfejlettebb amerikai AI-modellek kiberkockázatait, előnyben részesítve a stratégiai információk védelmét. A lépést részben a magánszektorból érkező szakértelemre és a nemzetbiztonsági megfontolásokra alapozzák, de a titkosság miatti átláthatósági aggályok és a kétségek továbbra is fennállnak arról, hogy miként lehet majd megbízhatóan értékelni és kezelni az ilyen rendszerek kockázatait.
