Több ismert mesterségesintelligencia-kutató nyilvánosan megerősítette egy Anthropic kutató figyelmeztetését, miszerint a fejlett AI-rendszerek potenciálisan katasztrofális, visszafordíthatatlan irányvesztéshez és ennél fogva súlyos emberi áldozatokhoz vezethetnek.
Paul Christiano, aki 2016-ban közösen írta a mesterségesintelligencia-biztonságról szóló befolyásos tanulmányt Dario Amodeival (a későbbi Anthropic-alapítóval), korábban úgy vélte, hogy az AI fejlődése viszonylag fokozatos lesz és meg lehet teremteni a biztonsági mechanizmusokat. A most közzétett álláspontja szerint azonban „jelentős kockázatot” lát a „katasztrofális és visszafordíthatatlan irányvesztésre a nagyon közeli jövőben”. Christiano hozzátette azt a figyelmeztetést is: „A legtöbb ember meghalhat.” Ugyanezen bejelentés részeként közölte, hogy csatlakozik az OpenAI nonprofit biztonsági csapatához, hogy e kockázatok csökkentésén dolgozzon.
Ezen felül Geoffrey Hinton, akit gyakran emlegetnek az AI „három keresztapája” közé sorolva, a BBC-nek adott nyilatkozatában olyan becslést ismételt, miszerint a teljes emberiség kihalásának esélye 10 százalék „nem tűnik irreálisnak”. Ez a megjegyzés összecseng egy Anthropic vezető AI-alignment kutatójának előző napi figyelmeztetésével.
Miért számít ez?
A kijelentések azért fontosak, mert a szakmai tekintélyük miatt Christieano és Hinton véleménye nagy hatással lehet a közbeszédre, a szabályozási törekvésekre és a kutatási prioritásokra az AI biztonság területén. A hangsúly a potenciálisan gyorsan bekövetkező, nagy következményekkel járó eseményeken van: ha a rendszerek feletti irány elveszne, a hatás súlyos és nehezen vagy egyáltalán nem visszafordítható lehet.
Konkrét lépések
A jelenlegi állás szerint Paul Christiano csatlakozik az OpenAI nonprofit biztonsági csapatához, hogy közvetlenül részt vegyen a kockázatok mérséklésében. A további következmények — például új szabályozási kezdeményezések, iparági önszabályozás vagy megnövekedett források az AI-biztonsági kutatásokra — a nyilvános és szakmai reakcióktól függenek.
Összegzés
A vezető AI-kutatók által megfogalmazott figyelmeztetések — köztük Paul Christiano és Geoffrey Hinton megjegyzései — azt mutatják, hogy a mesterséges intelligencia biztonsági kockázatait egyre több szakember tartja valós és sürgős problémának. A kijelentések nyomán várhatóan élénkül a vita az irányítási mechanizmusok, a kutatási prioritások és a szabályozási lépések körül.
