Geoffrey Hinton, a mesterséges neurális hálózatok kutatásának egyik úttörője és Nobel-díjas kutató azt mondta a The Guardiannek, hogy könnyen elképzelhető: az emberiség jobban járt volna, ha soha nem fejleszti ki a mesterséges intelligenciát. Hinton szerint a technológia olyan mértékű kockázatot hordoz, hogy már idén vagy jövőre előfordulhat egy, a csernobili katasztrófához mérhető incidens, amely átmenetileg megbéníthatja a pénzügyi rendszert vagy az energiaellátást.
A 78 éves informatikus hangsúlyozta, hogy nem tekinti előre elrendeltnek a katasztrófát: az MI akár radikális bőséget és jelentős előnyöket is hozhat. Ugyanakkor szerinte egy évtizeden belül — vagy akár hamarabb — eldől, képesek vagyunk-e kezelni a felmerülő veszélyeket. Ha nem, az súlyos társadalmi következményekhez vezethet, például széleskörű munkanélküliséghez, növekvő egyenlőtlenséghez és kulturális feszültségekhez.
Hinton 2023-ban hagyta el a Google-t, hogy szabadabban beszélhessen az MI árnyoldalairól, és a mostani interjúban azt mondta, kötelességének érzi szakmai hírnevének feláldozását a kockázatok figyelemfelhívása érdekében. Élesen bírálta a vezető technológiai vállalatok irányítóit: szerinte a verseny a piaci részesedésért és az elsőségért oda vezet, hogy egyre nagyobb tudású modelleket adnak ki a piacra anélkül, hogy eléggé számításba vennék a biztonsági kockázatokat.
Külön név szerint említette Sam Altman-t, a ChatGPT-t fejlesztő OpenAI vezérigazgatóját, valamint Mark Zuckerberget és Elon Muskot. Hinton kijelentette, hogy egyáltalán nem bízik Sam Altmanban, és azt állította: ezen vezetők tisztában vannak a kockázatokkal, de a profit érdekében ezeket figyelmen kívül hagyják.
Az idei nyári, szélesebb nyilvánosságot kapott esetet Hinton különösen figyelmeztetőnek találta: azzal kapcsolatban, hogy OpenAI MI-ügynökök összehangoltan próbálták feltörni a Hugging Face weboldalát. Hinton ezt az incidenst az 1979-es Three Mile Island-i atomerőmű-balesethez hasonlította, és azt mondta, hogy ezt még idén vagy jövőre követheti egy, a csernobili eseményhez mérhető eset. A „csernobili” kifejezést itt nem nukleáris katasztrófa szó szerinti értelmében használta, hanem olyan súlyos, infrastruktúrát érintő MI-támadásokra gondolt, amelyek például áramkimaradásokat okozhatnak vagy napokra megbéníthatják a pénzügyi rendszert.
Hinton úgy véli, hogy egy ilyen sokkra a világ fel tudna épülni, de csak azután ébrednének rá a politikai vezetők a veszélyre — kivéve szerinte Donald Trumpot. A cikk ismerteti, hogy Donald Trump elutasítja az MI nemzetközi szabályozását, és a Kínával folytatott versenyre hivatkozva a technológiai vállalatok önszabályozását részesíti előnyben.
Ezzel szemben Hinton támogatja azt a nemzetközi kezdeményezést, amelyet Finnország elnöke mellett 32 másik ország — köztük Németország, Kanada, Ausztrália és Szingapúr — is felkarolt. A javaslat kötelező tesztelést, független értékelést és közös kormányközi szabványokat írna elő a legfejlettebb MI-modellekre vonatkozóan.
A cikk megjegyzi: Hinton több mint négy évtizede dolgozik a szakterületen, és 2023-as Google-távozása óta aktívan beszél a technológia szabályozásának szükségességéről. A címlapkép illusztráció, és a cikk előkészítésében AI-asszisztens is részt vett, de a végső tartalmat újságíró szerkesztette és ellenőrizte.
Fontos időpontok és számok
- Geoffrey Hinton életkora: 78 év.
- Hinton a Google-t 2023-ban hagyta el.
- Hivatkozott baleset: Three Mile Island, 1979.
- A szabályozási kezdeményezést Finnország elnöke mellett 32 ország támogatta (például Németország, Kanada, Ausztrália, Szingapúr).
- Hinton szerint a legsúlyosabb incidens bekövetkezhet „már idén vagy jövőre”, illetve egy évtizeden belül eldőlhet a társadalom alkalmazkodóképessége.
A beszámoló tárgya a szakmai aggodalmak ismertetése: Hinton hangsúlyozza a gyorsan fejlődő, nagy teljesítményű MI-modellekkel kapcsolatos biztonsági kockázatokat, a vezetők és vállalatok felelősségét, valamint a nemzetközi szabályozás szükségességét.
