Közzétéve: 2025. július 7. | Kategória: Policy
Egy új javaslat célja, hogy növelje a legfejlettebb mesterséges intelligencia rendszereket fejlesztő cégek átláthatóságát, hogy a közösség és a döntéshozók jobban megértsék az olyan rendszerek biztonsági gyakorlatait, amelyek potenciálisan súlyos károkat okozhatnak. A szerzők hangsúlyozzák: míg az iparág, a kormányok és az akadémia közös, átfogó értékelési módszertanokon dolgoznak — ami hónapokat vagy éveket vehet igénybe —, szükség van átmeneti intézkedésekre a biztonságos és felelős fejlesztés biztosítására.
A javasolt keret célja és jellege
A javaslat egy célzott transzparencia-keretrendszert ír elő, amely alkalmazható szövetségi, állami vagy nemzetközi szinten, és amely csak a legnagyobb, legképességesebb modelleket készítő fejlesztőkre vonatkozna. A megközelítés kevésbé előíró jellegű: a szabályozásnak rugalmasnak kell maradnia, hogy ne gátolja az innovációt és ne lassítsa az AI előnyeinek (például gyógyszerkutatás, közszolgáltatások gyorsabb eljuttatása, nemzetbiztonsági feladatok) megvalósulását.
A javaslat szerzői kiemelik, hogy merev, államilag előírt szabványok hátrányosak lehetnek, mert az értékelési módszerek a technológia gyors változása miatt hónapok alatt elavulhatnak.
Alapelvek: kikre vonatkozzon és miért
A keret főbb elemei a következők:
-
A szabályozás csak a legnagyobb "frontier" modellfejlesztőkre terjedjen ki: a javaslat szerint a „frontier” modellek meghatározása több küszöbérték kombinációja alapján történne, például számítási teljesítmény, számítási költség, értékelési eredmények, éves bevétel és K+F-kiadások. Ennek célja, hogy ne terheljék a startupokat és a kisebb fejlesztőket, amelyek alacsony kockázatot jelentenek nemzetbiztonsági vagy katasztrofális károkozás szempontjából.
-
Illeszkedő mentességek: a keret tartalmazna megfelelő mentességeket kisebb fejlesztők számára. A javaslat alkotói várják a startup közösség visszajelzését a küszöbértékekre vonatkozóan.
-
Például: a dokumentumban említett illusztratív határértékek között szerepel körülbelül 100 millió dolláros éves bevétel vagy mintegy 1 milliárd dolláros éves K+F vagy tőkeberuházás. A szerkesztők hangsúlyozzák, hogy ezek a küszöbök időről időre felülvizsgálandók a technológia és az ipar változásainak megfelelően.
Secure Development Framework (Biztonságos Fejlesztési Keret)
A javaslat szerint a hatály alá eső fejlesztőknek rendelkezniük kell egy Secure Development Frameworkkel, amelyben részletezik, hogyan mérik fel és hogyan csökkentik a modellekből eredő elfogadhatatlan kockázatokat. A kockázatok között külön kiemelik a kémiai, biológiai, radiológiai és nukleáris károk létrehozásának lehetőségét, valamint a rosszul igazított autonóm viselkedésből eredő károkat.
Mivel a Secure Development Framework még fejlődő eszköz a biztonsági gyakorlatban, a javaslat rugalmasságot javasol a részletes követelmények megfogalmazásában.
Nyilvános közzététel és önminősítés
A Secure Development Framework-öt nyilvánosságra kell hozni egy, a cég által fenntartott és regisztrált, nyilvános weboldalon, értelemszerűen a biztonságot veszélyeztető információk megfelelő kivonásával. A közzétételnek egy önminősítéssel kell járnia, amely igazolja, hogy a labor betartja a nyilvánosságra hozott keretében foglaltakat.
Ez a nyilvánossá tétel lehetővé teszi kutatók, kormányok és a közvélemény számára, hogy átláthatóbb képet kapjanak a jelenleg üzembe helyezett modellek biztonsági gyakorlatáról.
Rendszerkártyák (System cards)
A javaslat előírja, hogy rendszerkártyákat vagy hasonló dokumentációt is tegyenek közzé. Ezek összefoglalnák a tesztelési és értékelési eljárásokat, az eredményeket és a bevezetett enyhítő intézkedéseket — szintén olyan részletek kivonásával, amelyek veszélyeztetnék a közbiztonságot vagy a modell biztonságát.
A rendszerkártyákat a modell bevezetésekor kell nyilvánosságra hozni, és frissíteni kell, ha a modellt lényegesen átdolgozzák.
Whistleblower-védelem és hamis állítások tilalma
A javaslat egyértelművé teszi, hogy törvénybe ütközik, ha egy labor hamisan állítja, hogy megfelel a saját Secure Development Frameworkjének. Ez a rendelkezés kifejezetten lehetővé teszi a meglévő whistleblower-védelmek alkalmazását, és biztosítja, hogy a végrehajtás forrásai azok felé irányuljanak, akik szándékosan megtévesztést követtek el.
Minimális, de fejlődő szabványok
A javasolt transzparencia-keret minimális követelményeket határozna meg, amelyek célja a közbiztonság erősítése és az elszámoltathatóság javítása, miközben lehetőséget ad a szabványok fejlődésére. Mivel az AI biztonsági gyakorlatok még kialakulóban vannak, a követelményeknek könnyűnek és rugalmasnak kell maradniuk, hogy később konszenzusos legjobb gyakorlatokká finomíthatók legyenek az ipar, a kormányzat és más érintettek közreműködésével.
A szerzők megjegyzik, hogy a javaslat feltárhatja az iparági legjobb gyakorlatokat és segíthet alapvonalat adni arra, hogyan képezzék a felelős laborok modelljeiket, így a közönség és a döntéshozók meg tudják különböztetni a felelős és a kevésbé felelős gyakorlatokat.
Miért számít ez most?
A dokumentum említi, hogy olyan vezető fejlesztők, mint az Anthropic, Google DeepMind, OpenAI és Microsoft már alkalmaznak hasonló megközelítéseket, például a Responsible Scaling Policy jellegű elveket. A jogi követelményként bevezetett transzparencia nem merev kereteket rögzítene, hanem standardizálná a jó gyakorlatok közzétételét, megakadályozva, hogy a közzétett információk később visszavonhatók legyenek, miközben megőrizné a magánszektor mozgásterét.
A nézetek eltérnek abban, hogy mikor és milyen mértékben jelenthetnek katasztrofális kockázatot az AI modellek. A Secure Development Frameworkök és a rendszerkártyák nyilvánosságra hozatala azonban fontos bizonyítékot szolgáltathat a döntéshozóknak arról, szükséges-e további szabályozás.
Következtetés
A javasolt transzparencia-keret gyakorlati, első lépésként írja le a nyilvános rálátást a biztonsági gyakorlatokra, miközben megőrzi a magánszektor rugalmasságát az AI potenciáljának kiaknázásához. A szabályozás szűkíti a hatókört a legnagyobb fejlesztőkre, előírja a Secure Development Framework nyilvánosságra hozatalát és a rendszerkártyák közlését, illetve megtiltja a hamis megfelelési állításokat a whistleblower-védelem erősítése érdekében. A javasolt küszöbértékek (például ~100 millió dollár éves bevétel vagy ~1 milliárd dollár éves K+F/tőke kiadás) illusztratívak és felülvizsgálhatóak a technológiai fejlődés fényében.
