Biztonság

Mesterséges intelligenciával generált szöveg

Geoffrey Hinton szigorúbb biztonsági kutatást és szabályozást sürget a mesterséges intelligenciánál

Geoffrey Hinton Nobel-díjas informatikus és kognitív tudós szerint tíz éven belül létrejöhet egy olyan mesterséges intelligencia, amely szinte mindenben felülmúlja az embereket.

Geoffrey Hinton szigorúbb biztonsági kutatást és szabályozást sürget a mesterséges intelligenciánál

Geoffrey Hinton Nobel-díjas informatikus és kognitív tudós szerint akár tíz éven belül létrejöhet olyan szuperintelligens mesterséges intelligencia, amely szinte mindenben okosabb az embereknél. Úgy véli, addig van lehetőség arra, hogy az emberi érdekeket előtérbe helyező rendszereket alakítsanak ki, amíg a gépek nem kezdik el önmagukat fejleszteni. Attól tart, hogy utána az emberek elveszíthetik az irányítást.

Hinton büszke a mesterséges intelligencia fejlődéséhez való hozzájárulására, de azt mondja, bárcsak korábban kezdett volna foglalkozni a kockázatokkal. Ma a veszélyek ismertetésének szenteli az idejét. Szerinte ha előre látta volna a fejlődés ütemét, évtizedekkel korábban elkezdte volna ezt a munkát.

A fejlesztés folytatását biztonsági kutatásokkal kötné össze

A kutató nem támogatja az AI-fejlesztés teljes leállítását, mert a technológiának sok hasznos alkalmazása lehet. Ehelyett azt sürgeti, hogy több fejlesztési munkát és tőkét fordítsanak a biztonsági problémák megoldására. Ez szerinte lassíthatná a fejlesztést, de nem állítaná meg, miközben javíthatná az emberiség túlélési esélyeit.

Hinton hangsúlyozta, hogy egyelőre nem tudni, megoldhatók-e ezek a problémák: az ehhez szükséges kutatásokat még nem végezték el. Lehetségesnek tartja, hogy az AI emberi célokhoz való illesztése nem valósítható meg, és egy az emberénél fejlettebb intelligencia átveszi az irányítást.

A lehetséges előnyök között említette, hogy az AI növelheti a termelékenységet, és enyhítheti az elöregedő nyugati országok munkaerőhiányát. Szerinte azonban ezek az előnyök csak akkor vezethetnek kedvező jövőhöz, ha a fejlesztéssel párhuzamosan a kockázatokat is kezelik.

A gyógyszerekhez hasonló szabályozást sürget

Hinton rendkívül veszélyesnek tartja Donald Trump amerikai elnök mesterséges intelligenciával kapcsolatos hozzáállását. Bár szerinte néhány politikus már felismerte a tétet, úgy látja, egyelőre kevesen vannak.

A kutató a gyógyszerszabályozással vont párhuzamot: szerinte elfogadhatatlan lenne, ha a gyógyszergyártók előzetes szabályozás nélkül hozhatnák forgalomba készítményeiket, és csak az esetleges károk után kellene bíróság elé állniuk. Úgy véli, Trump és Jensen Huang az AI esetében a szokásos jogi eljárásokon túli külön szabályozás helyett a károk utólagos bírósági rendezésére hagyatkozna. Hinton szerint a mesterséges intelligenciát legalább a gyógyszerekhez hasonló szigorral kellene szabályozni.

Hinton pályája

Geoffrey Hinton 1947. december 6-án született Londonban. Egyetemi évei alatt a természettudomány, a művészettörténet és a filozófia is érdekelte, végül kísérleti pszichológiából szerzett alapdiplomát. Egy évig asztalosinas volt, majd visszatért a tudományhoz, és mesterséges intelligenciából szerzett PhD-fokozatot.

Az Egyesült Királyságban a terület forráshiányával szembesülve amerikai egyetemeken folytatta a munkáját, 1987 óta pedig a Torontói Egyetem kutatója. 2013-ban csatlakozott a Google-höz, ahonnan 2023-ban az AI-fejlesztés kockázataira hivatkozva távozott. Két társával 2018-ban Turing-díjat kapott, 2024-ben pedig John Hopfielddel megosztva fizikai Nobel-díjat nyert a mesterséges neurális hálózatokon alapuló gépi tanulást lehetővé tevő felfedezésekért és találmányokért. Hintont gyakran az „AI keresztapjaként” emlegetik.

Hinton és Patchen Barss szakíró közös, Okosabb, mint mi című könyve az AI és az emberiség jövőjével foglalkozik; a kötet előrendelhető a HVG Könyveknél.