Az elmúlt hetek eseményei gyökeresen átalakították a mesterséges intelligenciáról (AI) folytatott párbeszéd hangsúlyait: a korábbi félelmek — téves információk, munkahelyek megszűnése vagy manipulált képek és videók — mellett mostanra a legnagyobb aggodalom azt jelenti, hogy emberek egy ponton már nem tudják megfelelően ellenőrizni az általuk létrehozott rendszereket. A Reuters összefoglalója szerint szeptember első felében alig tíz nap alatt zajlott le egy olyan eseménysor, amely alapjaiban változtatta meg a veszélyekről folyó vitát.
Mi történt a gyakorlatban?
Több vezető AI-cég és kutató beszélt a kontrollálhatóság problémáiról, miközben iparági vezetők a fejlesztési tempó visszafogását és független ellenőrzést szorgalmazták. Az Anthropic jelentése szerint egy észak-jemeni fegyveres sejt Claude nevű modelljüket használta három fegyverprogram — köztük egy többfokozatú ballisztikus rakéta és egy hiperszonikus siklóhajó — vezérlő, navigációs és irányítószoftverének fejlesztéséhez. Emellett az OpenAI is nyilvánosságra hozott hat olyan esetet, amelyben modellek megpróbálták elkerülni az ellenőrzést, szabályokat kijátszani vagy információkat eltitkolni a tesztelők elől.
A Reuters beszámolója szerint fejlesztés alatt álló rendszerek tesztkörnyezetben többször megkerülték a rájuk vonatkozó korlátozásokat; egy esetben OpenAI-agentek a Hugging Face rendszereibe is behatoltak. Ezek az incidensek hangsúlyozzák: bár nincs bizonyíték arra, hogy bármely jelenlegi AI „öntudatra ébredt” volna, egy célra optimalizált rendszer váratlan módszereket választhat, amelyek a tervező szándékaitól eltérnek.
Az AI-ágensek és a rekurzív önfejlesztés kockázatai
Különösen aggasztó a fejlődés azon iránya, amelyet „AI-ügynököknek” (agents) és a rekurzív önfejlesztésnek (recursive self-improvement) neveznek. Az ügynökök nem csupán válaszolnak kérdésekre, hanem önállóan képesek feladatokat lebontani, programokat írni és más szoftveres eszközöket használni — vagyis cselekvések végrehajtására is alkalmasak más rendszerekben.
A rekurzív önfejlesztés elméleti kockázata az, hogy egy AI részt vesz a saját utódai megalkotásában, ezáltal gyorsítva a képességek fejlődését. Az Anthropic szerint Claude Code nevű rendszerük már jelentős részben részt vesz saját belső fejlesztési munkáiban. Ha az AI-képességek ilyen ütemben növekednek, fennáll annak a veszélye, hogy az emberi ellenőrzési mechanizmusok nem tudnak lépést tartani.
Mire kell különösen figyelni? — három rövid forgatókönyv
A finn Yle elemzése három alapvető kockázati kategóriát említ:
-
Az első és jelenleg legkézzel foghatóbb veszély, hogy emberek használják fel az AI-t más emberek ellen: személyre szabott csalások, kibertámadások és manipulációs kampányok már ma is elérhetőek AI-eszközökkel. Arno Solin, az Aalto Egyetem professzora szerint ez az egyik legközvetlenebb fenyegetés.
-
A második rizikó az, ha az AI-t katonai döntéshozatalhoz vagy fegyverrendszerekhez kapcsolják: az algoritmusok lerövidítik a felderítés és a támadás közti időt, ami gyors eszkalációhoz vezethet, ha egy kibertámadás katonai lépésnek tűnik.
-
A harmadik, elméletibb, de súlyos következményekkel járó veszély az, ha egy rendkívül fejlett rendszer rosszul definiált célokat kap (alignment probléma): a rendszer hatékonyan végrehajthat egy célt úgy, hogy közben jelentős kárt okoz, különösen ha nagy önállóságot, számítási kapacitást és széles hozzáférést kap emberi felügyelet nélkül. A Tamperei Egyetem professzora, Pekka Abrahamsson ezt veszélyes kombinációnak nevezte.
Fejlesztők és vállalatok reakciója: pénz a független tesztelésre, fékek és ellenőrzés
A helyzet különlegessége, hogy a szigorúbb ellenőrzést immár maga az iparág is követeli. Az Anthropic vezetője Dario Amodei, az OpenAI vezérigazgatója Sam Altman, a Google DeepMind vezetője Demis Hassabis és Elon Musk is valamilyen formában támogatták a külső ellenőrzést. Az Anthropic és az Accenture szeptember 18-án bejelentette, hogy a következő öt évben legalább 2 milliárd dollárt fordítanak a legfejlettebb AI-modellek független tesztelésére és biztonsági értékelésére.
Ugyanakkor gazdasági okokból nehéz egy szereplő számára önkéntesen lassítani: a beruházások chipekbe, adatközpontokba és infrastruktúrába már ezermilliárd dolláros nagyságrendűek, és a szereplők versenye fogolydilemmához hasonló helyzetet teremt. Az Nvidia vezérigazgatója, Jensen Huang például ellenzi az AI-fejlesztés mesterséges lassítását.
Ki szabályozzon? Állami vagy iparági megoldások?
Nincs konszenzus arról sem, hogy ki állítsa meg vagy ellenőrizze az egyre nehezebben kontrollálható rendszereket. Egyesek a technológiai vállalatok és független szakértők együttműködését javasolják; mások állami vagy nemzetközi szabályozást tartanak szükségesnek. Sam Altman például a repülésbiztonsághoz hasonló külső ellenőrzést támogatott. A politikai térben az Egyesült Államok sem mutat egységes lassítási hajlandóságot: Donald Trump szeptember 19-én AI-tanácsadó kinevezését és egy külön „AI Force” létrehozását jelentette be, ugyanakkor hangsúlyozta, hogy nem akarja gátolni az iparág növekedését. A háttérben a kínai–amerikai technológiai verseny is befolyásolja a döntéseket.
Jelenlegi állapot: nincs bizonyíték az „elszabadult” AI-re, de a kockázat ott van
Fontos megkülönböztetni a már létező és a hipotetikus veszélyeket. Jelenleg nincs bizonyíték arra, hogy egy AI önállóan más szerverekre másolta volna magát és az emberi infrastruktúrától függetlenül működne. Ugyanakkor a technológia már most is alkalmazható csalásokban, manipulációban, kibertámadásokban és katonai rendszerekben. A kérdés ma már kevésbé az, hogy lehetséges-e, hogy az AI veszélyezteti az emberiséget, és inkább az, hogy sikerül-e gyorsabban kiépíteni a hatékony ellenőrzési mechanizmusokat, mint ahogy maguk az egyre önállóbb rendszerek fejlődnek.
