A washingtoni székhelyű Institute for Progress (IFP) egy 23 konkrét javaslatot tartalmazó csomagot tett közzé, amelynek célja, hogy a döntéshozók elkezdhessenek foglalkozni azzal a kockázattal, amely abból adódik, ha a mesterséges intelligencia kutatása maga is egyre automatizáltabbá válik.
A javaslatok hét tematikus csoportba sorolhatók, és az IFP hangsúlyozza, hogy sokuk „low‑regret”, vagyis alacsony kockázatú, könnyen indítható lépésként értelmezhető. A szervezet szerint ezek bevezetése többféle előnyt adna: egyrészt gyorsíthatná az AI‑képességek elterjedését azzal, hogy számítási erőforrásokat és tehetséget fordítana az inferenciára és új alkalmazások fejlesztésére; másrészt felgyorsíthatná az olyan R&D‑tevékenységeket, amelyek az automatizált AI‑kutatás biztonságosabbá tételét szolgálják, akár közvetlenül a modellek biztonságának javításával, akár a társadalmi ellenállóképesség növelésével.
A hét javaslati kategória
- Biztonságot növelő átláthatóság az automatizált AI‑kutatásban
- Az állami kapacitás fejlesztése az automatizált AI‑kutatás megértésére és kezelésére
- Kockázatkezelési stratégia kialakítása az automatizált AI‑kutatásra, amely felgyorsítja a védelmi és kereskedelmi AI‑használatokat
- AI‑verifikációs technológiák fejlesztésének felgyorsítása
- Befektetés az AI‑ellenállóképességbe
- Az Egyesült Államok AI‑vezetésének meghosszabbítása, hogy több idő jusson az automatizált AI‑kutatás kockázatainak kezelésére
- Nemzetközi együttműködés lehetőségének megteremtése az automatizált AI‑kutatás kockázatainak kezelésében
Ezek a kategóriák lefedik mind az információs és felügyeleti intézkedéseket, mind a technológiai és stratégiai beruházásokat. A javaslatok célja, hogy a kormányok, különösen az Egyesült Államok, több lépési lehetőséget kapjanak a fejlett rendszerek kifejlesztése közben.
Miért számít ez?
Az IFP képe szerint jelenleg úgy halad a világ az AI‑fejlesztésben, mintha egy autóban csak a gázpedál lenne: nincs valódi fék, és hiányzik a részletes telemetria, amely megmutatná a rendszerek sebességét, motorállapotát vagy a kopás mértékét. Az IFP javaslatai „több pedált és érzékelőrendszert” adnának az ágazat járművéhez: jobb képességet arra, hogy válsághelyzetben irányt váltsunk vagy lassítsunk.
Az IFP hangsúlyozza, hogy minél kevesebb eszköz áll rendelkezésre a kockázatok kezelésére (például az automatizált AI‑kutatásból fakadó kockázatokra), annál rosszabbak lehetnek a kimenetek. A 23 javaslat egy részletesebb és sokrétűbb politikai válaszhalmazt kínál, amely magában foglalja a transzparencia növelését, az állami kapacitás fejlesztését, a verifikációs technológiák támogatását, a társadalmi ellenállóképesség erősítését és a nemzetközi együttműködés előkészítését.
Mire lehet számítani ezután?
Az IFP anyaga gyakorlati ötleteket ad a döntéshozóknak, de nem kötelező érvényű szabályozási csomag. A következő lépés attól függ, hogy a kormányok és a szakpolitikai szereplők mennyire fogadják el ezeket az ajánlásokat, és mennyire hajlandóak forrásokat rendelni a javasolt intézkedésekhez. Az IFP munkája azonban hozzájárul ahhoz, hogy a politikaalkotók rendelkezzenek kézzel fogható lépésekkel arra az esetre, ha az AI‑kutatás automatizálódása új és súlyos kockázatokat generálna.
