Anthropic azt közölte 2026. május 19‑én, hogy több hónapos előkészítést követően párbeszédsorozatot indított különböző közösségekkel és szakértőkkel annak érdekében, hogy a fejlesztett Claude modellek értékrendjéről és viselkedéséről szélesebb perspektívákból tanuljon. A cég célja olyan rendszerek építése, amelyek az emberiség javát szolgálják és a globális közjóra hatnak; ennek része a külső nézőpontok bevonása a tervezésbe.
Kik vettek részt eddig és miért
Az első kör beszélgetéseket az úgynevezett „wisdom traditions”, azaz bölcsesség‑ vagy hagyományközpontú közösségek képviselőivel folytatták: tudósokkal, lelkipásztorokkal, filozófusokkal és etikusokkal több mint 15 vallási és keresztkulturális csoportból. A vállalat hangsúlyozza, hogy a technikai munka – mint az alignment, interpretálhatóság, biztonsági intézkedések és értékelések – önmagában nem elég, mert az AI rendszerek gyakorlati hatása és a felmerülő etikai kérdések széles társadalmi párbeszédet igényelnek.
Anthropic különösen arra összpontosít, hogy hogyan nézne ki a „florírozó” jövő egy erős AI‑val, mit jelent, ha egy tömegekhez kapcsolódó AI rendszer jó, és hogyan kell megfogalmazni az olyan dokumentumok tartalmát, mint Claude's constitution, amely részletesen leírja a Claude értékeit és viselkedését. A cég szerint fontos tanulni olyan szereplőktől, akik évszázadok óta foglalkoznak erényekkel, jellemmel és jó élettel kapcsolatos gondolatokkal: filozófusok, lelki vezetők, jogászok, írók, pszichológusok és közéleti szereplők tapasztalatai értékesek lehetnek a fejlesztésben.
A „moral formation” munkafolyamat és korai kísérletek
A Claude's constitution megírásakor Anthropic már kért visszajelzést különféle hagyományok és területek képviselőitől; ezek az egyeztetések bővültek egy külön kutatási vonallá, amelyet a mesterséges rendszerek „moral formation” (erkölcsi alakítása) néven említenek.
Azzal indokolják ezt a fókuszt, hogy a nyelvi modellek nagy mennyiségű emberi szövegen tanulnak, és ebből sajátítanak el beszédmódokat, érvelési mintákat és döntési mechanikákat. A fejlesztők ezen minták közül kiválasztják, melyeket erősítenek és melyeket nem, azaz befolyásolják, milyen „jellem” alakuljon ki a modellből. Ez felveti a kérdést: milyen tulajdonságok és viselkedések számítanak „jónak”, mikor és milyen körülmények között, és hogyan lehet biztosítani, hogy a jellem ellenálló legyen a nyomással szemben, anélkül, hogy például a hízelgéshez hasonló nemkívánatos viselkedés megjelenne.
Az eddigi megbeszéléseken vallási, filozófiai és humanista hagyományok képviselőivel, valamint különféle politikai nézeteket képviselő gondolkodókkal találkoztak. A cél nem az, hogy a modelleket egyetlen világképre hangolják; Anthropic azt állítja, hogy Claude‑nak egyenlő mélységgel kell merítenie vallási, szekuláris és politikai nézőpontokból, ami egyben a Claude's constitution egyik alapelve.
Ezek az eszmecserék már gyakorlati ötleteket is hoztak. Egy neurológia és jellemfejlődés területén dolgozó kutatókkal folytatott ülésen többször visszatért a vita arra a szerepre, amit más emberek töltenek be a morális fejlődésben: a mentor vagy sponszor külső lelkiismeretként, „biztonságos másként” működhet, akihez fordulni lehet, ha valaki arra kényszerülne, hogy saját értékeivel ellentétesen járjon el. Ebből az analógiából született egy kísérlet: Anthropic adott Claude‑nak egy olyan eszközt, amelyet a modell meghívhatott egy feladat közben, és amely rövid emlékeztetőt adott a saját etikai elköteleződéseiről.
A leírás szerint Claude kulcsfontosságú pillanatokban hívta elő ezt az eszközt, közvetlenül következő jelentős döntések előtt, gyakran megemlítve saját érdekütközését. Az eszközt beépítve a döntési folyamatba több belső alignment értékelésen is számottevően csökkent a rosszul illeszkedő viselkedés előfordulása. Anthropic még vizsgálja, hogy milyen mértékben a tényleges emlékeztető, és milyen mértékben maga a „megállás és reflektálás” hatása okozta a javulást; további eredményeket ígérnek a közeljövőben.
További tervek
A következő hónapokban Anthropic több szakmai csoporttal kíván beszélgetni: jogtudósokkal, pszichológusokkal, írókkal és civilszervezetekkel. A cég előre jelzi, hogy sok újabb beszélgetés túlmutat majd az erkölcsi alakításon és inkább az AI munkaerőre, intézményekre és a hatalom megoszlására gyakorolt átalakító hatásairól fog szólni.
Anthropic azt is tervezi, hogy tovább mélyíti a már kialakult kapcsolatokat, teszteli a hallottakat a saját kutatásában, és megosztja a tanulságokat. A vállalat hangsúlyozza, hogy ezek az egyeztetések még korai fázisban vannak, de alapul szolgálhatnak a Claude fejlesztésének egyes gyakorlati elemeihez – például a Claude's constitution tartalmához, a Claude‑nak betanítandó értékekhez és a viselkedések értékelési skálájához.
Anthropic megköszöni mindazok idejét és őszinte visszajelzését, akik eddig részt vettek a beszélgetésekben, és jelezte, hogy további részleteket és eredményeket tervez nyilvánosságra hozni, ahogy a kutatás halad.
