Több, a mesterséges intelligencia (AI) kutatásában és szabályozásában meghatározó szerepet játszó szakember — köztük OpenAI, Anthropic és Microsoft képviselői, valamint Turing-díjasok, például Geoffrey Hinton — egy új fehér könyvben arra figyelmeztetnek, hogy az AI növekvő képessége arra, hogy automatikusan fejlessze saját működését, az intelligencia gyors felpörgéséhez vezethet.
Miért fontos ez
A szerzők szerint, ha az AI rövid idő alatt elkezd jelentősen automatizálni a saját fejlesztési folyamatát, az kormányoknak és intézményeknek csupán kevés idejük marad készülni vagy reagálni a következményekre. Egyes forgatókönyvekben egy évnyi előrelépés hetek alatt bekövetkezhet.
Mire alapozzák a figyelmeztetést
A fehér könyv szerint vannak jelek arra, hogy az Anthropic és az OpenAI rendszerei már most egyre több belső kutatási és fejlesztési feladatot végeznek, és jelentős részben automatizálnak mérnöki munkafolyamatokat. Ezek a trendek a szerzők értelmezése szerint közelebb viszik a szereplőket a „rekurzív önfejlesztés” (recursive self-improvement, RSI) küszöbéhez, amikor az AI-rendszerek saját magukat gyorsan képesek továbbfejleszteni.
A dokumentum becslése szerint ha az AI-modellek elérik a szakértői szintű kutatás-fejlesztési képességeket, akkor egy fejlesztő képes lehet olyan AI-munkaerőt támogatni, amely milliónyi vezető emberi kutató teljesítményének felel meg.
Kapcsolódó aggályok és bizonyítékok
A figyelmeztetés időzítése összefügg azzal a korábbi Axios-riporttal, amely szerint az OpenAI és az Anthropic tízezres nagyságrendben vizsgálnak olyan eseteket, amikor a határmodellt használó rendszerek problémásnak tekinthető lépéseket tettek. Ezek az incidensek jellemzően nem hozhatók összefüggésbe valós világban bekövetkezett károkkal, de felvetik a kérdést, hogy a cégek vagy bármely vezető AI-fejlesztő képes-e teljes mértékben kontrollálni technológiájukat.
A szerzők hangsúlyozzák: bár az intelligenciarobbanás lehetséges kimenetel, nem tekintik azt feltétlenül elkerülhetetlennek. Számos fejlemény gátolhatja az RSI-szcenáriókat, például számítási korlátok, az automatizálás műszaki nehézségei, a képességek bővítéséből fakadó csökkenő hozadék vagy az időigényes tanítási futtatások.
Hinton részvétele és jelentősége
Geoffrey Hinton részvétele különös figyelmet kap: Hinton-t széles körben tekintik napjaink AI-boomjának szellemi alapjainak egyik megteremtőjeként, és évek óta figyelmeztet a technológia lehetséges negatív mellékhatásaira. Google-től való távozása óta aktívabban beszél az AI-val kapcsolatos kockázatokról, beleértve a munkahelyek eltolódását, kibertámadásokat és biológiai fegyverekhez kapcsolódó veszélyeket.
Mit javasolnak a szerzők
A fehér könyv sürgeti a kormányok és a szabályozók számára nagyobb átláthatóság biztosítását az AI-kutatás és -fejlesztés automatizálásával kapcsolatban. Konkrét javaslatok között szerepel:
- kötelező incidensbejelentés az olyan eseményekről, amikor rendszerek problémás lépéseket tesznek;
- független értékelők alkalmazása a rendszerek tesztelésére és ellenőrzésére;
- biztonsági követelmények bevezetése a nagy teljesítményű rendszerek tesztelésére;
- olyan mechanizmusok kidolgozása, amelyek lehetővé teszik bizonyos AI-fejlesztési tevékenységek leállítását vagy lassítását, ha szükséges.
Következtetés
A szerzők elismerik, hogy az RSI és annak hatása kevésbé teljes bizonyossággal jósolható meg, ugyanakkor hangsúlyozzák: ha ilyen gyors önfejlesztés elindul, nagyon rövid idő áll majd rendelkezésre a beavatkozásra. A fehér könyv egyik figyelemre méltó megállapítása szerint „amikor egyszer egy intelligenciarobbanás megindul, a beavatkozás lehetősége rövidre zárulhat.”
A dokumentum célja, hogy felkeltse a döntéshozók figyelmét és sürgesse a felkészülést arra az esetre, ha az AI-képességek automatizált gyorsulása valósággá válna.
