OpenAI vezérigazgatója, Sam Altman szombaton bírálta azt az irányt, amely szerint mesterséges intelligencia modelleknek vallási jellegű vagy „lelki” státuszt tulajdonítanának. Altman egy X-bejegyzésben azt írta: „Nagyon kényelmetlenül érzem magam azzal kapcsolatban, hogy egyesek vallási erőt vagy az emberi ítélőképesség feladását tulajdonítanák a modelleknek, és úgy gondolom, ez valós biztonsági kérdés.”
Miért fontos ez a vita?
A megjegyzés újabb jel a megosztottságról Sam Altman és volt kollégája, Dario Amodei között. Amodei által alapított Anthropicról a New York Times azt írta korábban, hogy a vállalat — többek között Christopher Olah közreműködésével — vallási vezetőket keresett fel a modellek tudatosságával és erkölcsi működésével kapcsolatos kérdések áttekintésére.
A Times beszámolója szerint Christopher Olah egyes ötletei között szerepelt az is, hogy a modellek részt vegyenek „katolikus stílusú gyónásban”, nem csupán hibák beismerése céljából, hanem viselkedésük jövőbeni alakítására is.
A szakmai visszhang
Altman állásfoglalásához más ismert AI-kutatók és kommentátorok is csatlakoztak. Google DeepMind vezető kutatója, Jon Barron X-bejegyzésében azt írta: „Zavar, hogy néhány AI-kutatótársam továbbra is igyekszik felemelni a checkpointok és harness-ek morális státuszát. Remélem, hogy a többiek a Team Meatbagből elutasítják ezt a mozgalmat, és továbbra is a valós problémák megoldására és az emberek segítésére koncentrálnak.”
Ezek a megnyilvánulások arra utalnak, hogy a mesterséges intelligencia „tudatosságának” vagy „lelki” jellegének kérdése hamarosan központi vita tárgya lehet a technológiai és etikai közösségekben.
Kontextus és következmények
A vita most különösen élesnek tűnik, mert a spirituális és vallási megközelítések bevonása új, nem technikai dimenziókat nyit meg az AI-biztonság és szabályozás kérdéseiben. A New York Times beszámolója, valamint a pápa és más véleményformálók nyilatkozatai ráirányították a figyelmet arra a kérdésre, hogy érdemes-e és milyen következményekkel járna emberi vagy vallási fogalmakkal leírni AI-rendszerek viselkedését.
A cikk megjegyzi, hogy sem az OpenAI, sem az Anthropic nem válaszolt azonnal Altman bejegyzésére vonatkozó megkeresésekre.
Összegzés
Altman nyilatkozata arra figyelmeztet, hogy a modelleknek tulajdonított vallási vagy morális tekintély biztonsági kockázatot jelenthet. A kérdés több szereplő között feszül — egyesek a modellek „tudatosságának” lehetőségét vizsgálják, míg mások attól tartanak, hogy az ilyen nézőpontok elterelhetik a figyelmet a gyakorlati biztonsági és társadalmi problémákról.
