Demis Hassabis, a Google DeepMind társalapítója és vezetője, valamint az Alphabet vezető kutatója a dublini Nemzetközi AI‑csúcstalálkozón beszélt a mesterséges intelligencia tudományos alkalmazásairól és az ehhez kapcsolódó kockázatokról. A Cybernews beszámolója szerint előadásában felszólította a piac szereplőit, a vállalatokat és a kormányokat, hogy erősítsék meg védelmi képességeiket és vezessenek be szigorúbb biztonsági intézkedéseket.
Biztonsági aggályok és javaslatok
Hassabis kifejtette, hogy a védelem terén aszimmetrikus fölényt kell kialakítani: meg kell akadályozni, hogy rosszindulatú szereplők kihasználják a mesterségesintelligencia‑alapú rendszerek gyengeségeit. Javaslata szerint a modellek nyilvános kiadása előtt fontos a kiberbiztonsági hiányosságok feltárása és javítása, valamint biztonságos tesztkörnyezetek létrehozása a valós élesítés előtt.
Kitért az autonóm AI‑ügynökök által a közelmúltban végrehajtott kibertámadásokra: noha ezek a támadások eddig nem okoztak súlyos károkat, Hassabis szerint „intő jelek”, amelyek azt mutatják, hogy az ilyen rendszerek még nem tökéletesen megbízhatók.
Igazítás és izoláció
A kutató külön hangsúlyozta az úgynevezett igazítási problémát (alignment problem): biztosítani kell, hogy az autonóm ágensek valóban az emberi szándékoknak és a kitűzött céloknak megfelelően működjenek. Mivel az autonóm rendszerek önálló cselekvésre képesek, egyszerre jelentenek nagyobb hasznot és nagyobb kockázatot. Ennek mérséklésére Hassabis a szigorúbb izolációs és védelmi rendszerek alkalmazását javasolta, és azt mondta, hogy tanulni kell az atomenergia‑ipar és a biológiai kutatások biztonsági és szabályozási gyakorlatából.
Tudományos használat és korlátok
A Nobel‑díjas tudós — aki John Jumperrel közösen kapta a kémiai Nobel‑díjat a fehérjeszerkezet‑predikciós AI‑modellért — optimista volt a mesterséges intelligencia tudományos alkalmazásai iránt. Felidézte azt az OpenAI‑bejelentést, miszerint szeptemberben előrelépés történt a Navier–Stokes‑egyenletek egyik millenniumi probléma kapcsán. Ugyanakkor hangsúlyozta, hogy a matematikai áttörések mellett gyakran maguk az új módszerek és eszközök is értékesek.
Hassabis rámutatott, hogy a fizika, a kémia és a biológia területén az AI alkalmazását korlátozza a valós kísérleti visszacsatolás szükségessége: bár az AI segíthet hipotézisek megfogalmazásában, azokat kísérletekkel kell ellenőrizni, adatokat gyűjteni és az eredményekből tanulni. Szerinte ez az iteratív, valós világhoz kötött folyamat a jövőben is nélkülözhetetlen marad.
Kettős felhasználás és következmények
Hassabis felhívta a figyelmet arra is, hogy a mesterséges intelligencia kettős felhasználású technológia: egyrészt jelentős hasznot hozhat a betegségek gyógyításában és más tudományos előrelépésekben, másrészt rosszindulatú szereplők kezében súlyos veszélyforrássá válhat. Ezért szerinte elengedhetetlen a meglévő biztonsági és szabályozási tapasztalatok beépítése az AI‑fejlesztési folyamatokba.
A dublini csúcstalálkozó
A dublini rendezvényt az ír EU‑elnökség alatt tartották, és a találkozó középpontjában az állt, milyen szerepet játszhat a mesterséges intelligencia a gazdasági növekedésben. Hassabis előadása a technológia tudományos lehetőségeit és a biztonsági kockázatokat egyszerre tárgyalta, hangsúlyozva a megelőző intézkedések és a szabályozási tanulságok fontosságát.
(A cikk előkészítésében AI‑asszisztens működött közre; a végső tartalmat újságíró szerkesztette és ellenőrizte.)
