Chris Olah, az Anthropic társalapítója a Vatikánban tartott beszédet május 25-én, amikor XIV. Leó pápa a Magnifica humanitas kezdetű enciklikáját mutatták be. A dokumentum alcíme: Az emberi személy védelméről a mesterséges intelligencia korában. Olah felszólalásában az AI-fejlesztés belső feszültségeire, a technológia természetére és három olyan erkölcsi kérdésre összpontosított, amelyekben szerinte az egyház és más külső szereplők hangja nélkülözhetetlen.
Az iparág belső ösztönzői és a külső kritika szerepe
Olah nyíltan beszélt arról, hogy a vezető AI-kutatólaboratóriumok — köztük az Anthropic is — olyan ösztönzők és kényszerek között működnek, amelyek időnként ellentmondanak a helyes cselekvésnek. Ezek közé sorolta a kereskedelmi életképességet, a kutatási versenyt, a geopolitikai nyomást, valamint az olyan emberi hajtóerőket, mint a büszkeség és az ambíció. Emiatt kiemelte, hogy elengedhetetlen, hogy az iparágtól független szereplők — például vallási közösségek, civil szervezetek és tudósok — őszinte, tájékozott kritikusként fellépjenek, és azonnal jelezzék, ha a laborok hibáznak.
Olah szerint olyan erős erkölcsi hangokra van szükség, amelyeket a puszta üzleti érdekek nem tudnak elnyomni; ezek a hangok segíthetnek jobb irányba terelni a fejlesztéseket.
Az AI „növekedése” és emberi gyökerei
A társalapító azt is hangsúlyozta, hogy a mesterséges intelligencia rendszerek nem úgy épülnek fel, mint egy hidakra vagy repülőgépekre tervezett gép; nem alkatrészről alkatrészre szerveződnek. Ehelyett olyan struktúrákon "nőnek fel", amelyek az emberi agy és a nyelv örökségén alapulnak. Olah szerint a végeredmény sokkal összetettebb és furcsább annál, mint amit a tudományos-fantasztikus irodalom általában ábrázol; ezek a rendszerek belőlünk, a mi szavainkból formálódnak, és még alkotóik számára is számos szempontból rejtélyesek maradnak.
Három kérdés, ahol az egyháznak különös szerepe lehet
Olah három nagy témát emelt ki, amelyekben különösen fontosnak tartja az egyház és hasonló intézmények szerepét:
-
A globális szegénység kérdése: Olah felhívta a figyelmet arra, hogy az AI nagy léptékben válthatja ki az emberi munkaerőt, miközben a technológiai fejlesztés és a haszon koncentrálódhat néhány gazdag országban. Jelenleg nincs működő globális mechanizmus a haszon igazságos elosztására, és ez egy olyan probléma, amit az egyház történelmileg sem hagyott figyelmen kívül.
-
Az emberi kibontakozás: Mit jelent a jó élet az egyének, családok és közösségek számára egy AI-vel átszőtt világban? Olah szerint ezekre a kérdésekre nem elsősorban a kutatólaborokban található technikai megoldások adnak választ, hanem az évezredes etikai és filozófiai hagyományok tudnak releváns iránymutatást nyújtani.
-
Az AI belső természetének vizsgálata: Olah kutatócsapata az AI belső szerkezetét tanulmányozza, és egyre több, meglepő vagy nyugtalanító jelenséget találnak. Ilyenek például hálózati struktúrák, amelyek emberi idegtudományi eredményeket tükröznek, az introspekcióra utaló jelek, valamint belső állapotok, amelyek funkcionálisan az öröm, az elégedettség, a félelem vagy a gyász megfelelőinek tűnnek. Olah megfogalmazása szerint nem tudja pontosan, mit jelentenek ezek a felfedezések, de azok folyamatos és alapos vizsgálatot igényelnek.
Felhívás közös cselekvésre
Beszédét azzal zárta, hogy minden érintett szereplőt közös cselekvésre szólított fel — vallási közösségeket, kormányokat, tudósokat és magukat a jóakaratú polgárokat —, hogy komolyan vegyék a mesterséges intelligencia kérdését és segítsenek irányt szabni a fejlesztéseknek. Kiemelte a tájékozott kritikusok szükségességét, akik független módon figyelmeztetnek a problémákra.
Kapcsolódó események
A Portfolio által szervezett Financial IT rendezvényén május 28-án az AI-boom és a fintech innovációk lesznek központi témák; a sajtóanyag megemlíti, hogy ezen is szóba kerülnek a kapcsolódó etikai és szabályozási kérdések.
Címkék: szegénység, technológia, mesterséges intelligencia, kutatás, katolikus egyház, Vatikán, etika, emberi jogok, AI
A címlapkép illusztráció.
