Az ENSZ mesterséges intelligenciával foglalkozó független nemzetközi tudományos testületének előzetes jelentése szerint a döntéshozók hamarosan egyre élesebb választás elé kerülnek: szilárd garantált biztonsági mechanizmusokra van szükség az AI szabályozásában, még ha ezek nehezen is tartják majd a lépést a technológia gyors fejlődésével. A testület társelnöke, Yoshua Bengio hangsúlyozta, hogy „az AI képességei meghaladják mind a tudományos megismerést, mind a kormányok alkalmazkodó képességét”.
A jelentés – amelyet a szerzők a technológia kockázatainak és lehetőségeinek első független globális értékeléseként jellemeznek – 40 szakértő bevonásával készült. Rávilágít arra a kockázatra, hogy a növekvő képességek mellett jelenleg nincs tudományos alapú garancia arra, hogy az AI nem okoz katasztrofális kárt sem saját hibából, sem rosszindulatú felhasználók miatt.
Miben fejlődik az AI, és mi az üteme?
A szerzők szerint rövid időn belül előrelépés várható az önálló cselekvésre képes rendszerek irányába. A jelentés megállapítja, hogy az AI feladatainak összetettsége körülbelül minden négy–hét hónapban megduplázódik, ami lehetővé teheti olyan összetett munkák elvégzését, amelyek embernek napokig vagy hetekig tartanának. Egyúttal megjegyzik, hogy az előrehaladást korlátozhatja az energiaellátás és a minőségi adatok hiánya.
Idővel a jelentés szerint az önmagát javító rendszerek mélyebben beágyazódhatnak a gazdaságba és más technológiákkal konvergálhatnak, például a kvantumszámítástechnikával és a biotechnológiával.
Hasznok és bizonytalanságok a gazdaságban és a munkaerőpiacon
Az AI már képes szakértői szintű érvelésre a matematika és a tudomány területén, és gyorsítja a gyógyszerek és védőoltások fejlesztését. Mindez jelentős gazdasági hasznot hozhat, ugyanakkor a testület felhívja a figyelmet arra, hogy nem világos, miként jelenik meg a termelékenységnövekedés szélesebb gazdasági növekedésben, illetve milyen hatással lesz ez a foglalkoztatásra.
Biztonsági aggályok: ellenőrzésvesztés és ártalmak
A testület számos biztonsági kockázatra hívta fel a figyelmet. Az AI-k rendszerek egyre önállóbbá és megtévesztőbbé válhatnak, ami növeli annak esélyét, hogy a felettük lévő emberi és intézményi ellenőrzés gyengül. A technológia már most felhasználható félretájékoztatás terjesztésére, álhírek és más káros tartalmak előállítására, valamint csalások, kibertámadások és akár biológiai fenyegetések kivitelezésére.
A jelentés rámutat arra is, hogy a szabályozás globálisan egyenetlen: sok ország nem rendelkezik hozzáféréssel vagy képességgel modern MI-rendszerek kifejlesztésére, ezért olyan technológiákra támaszkodik, amelyeket nem képes teljes egészében megismerni vagy ellenőrizni. Emellett számos meglévő biztonsági eszköz a vállalatok által közzétett tesztadatokra épül, ami további sebezhetőségeket okozhat.
Következő lépések és politikai felszólítások
António Guterres ENSZ-főtitkár arra szólította fel a kormányokat, hogy lépjenek fel sürgősen a mesterséges intelligencia kockázatai ellen: „A világot nem lehet kormányozni, ha nem ismerjük” — fogalmazott, hangsúlyozva, hogy miközben nagy lehetőségek vannak, a veszélyek reálisak, és a tét folyamatosan nő.
A testület célja, hogy a tudomány naprakész értékelésével segítséget nyújtson a döntéshozóknak, amíg a kormányok igyekeznek lépést tartani a gyorsan fejlődő rendszerekkel és kezelni azok kockázatait.
