Anthropic 2026. január 22-én tette közzé Claude nevű mesterséges intelligenciája új „konstitúcióját” — egy részletes, a modell értékeinek és viselkedésének irányelveit leíró dokumentumot. A teljes szöveget Creative Commons CC0 1.0 Deed alatt tették közzé, vagyis bárki szabadon felhasználhatja engedélykérés nélkül.
A dokumentum célja nem csupán külső tájékoztatás: Anthropic hangsúlyozza, hogy a konstitúció elsősorban Claude számára íródott. Arra szolgál, hogy elmagyarázza a modellnek, milyen értékeket, döntési szempontokat és trade-offokat (például az őszinteség és a részvétteljes kommunikáció közötti egyensúly) várnak el tőle. A konstitúciót a cég a modellképzés különböző fázisaiban használja, és maga Claude is alkalmazza azt szintetikus képzési adatok létrehozására — például olyan példákra, amelyek segítik a konstitúció megértését, releváns beszélgetéseket, konzisztens válaszokat és válaszok rangsorolását.
Miért változtattak a megközelítésen?
Korábbi, 2023 óta alkalmazott „Constitutional AI” módszerük egy listázott elvcsomag volt. Az új konstitúció ehelyett hangsúlyozza, hogy a modelleknek meg kell érteniük, miért tartjuk fontosnak egyes viselkedéseket, nem csak azt, hogy mit tegyenek. A cél az általánosítás képességének támogatása: a modelleknek széles körű, új helyzetekben is jó ítélőképességet kell tudniuk gyakorolni, nem csupán mechanikusan követni előre megadott szabályokat.
Ugyanakkor Anthropic elismeri, hogy bizonyos, különösen nagy kockázatú esetekben hasznosak a merevebb "hard constraints" típusú szabályok; ilyenek például azok a tiltások, amelyek szerint Claude soha nem nyújthat jelentős segítséget biológiai fegyverek megvalósításához (példaként említik a biovegy-tevékenység „significant uplift”-jét).
A konstitúció fő céljai és prioritásai
Anthropic szerint a jelenlegi Claude-modelleknek egyszerre kell lenniük:
- Széles körben biztonságosnak (broadly safe): nem aláásva az emberi felügyelet és korrekció lehetőségét a jelen fejlesztési fázisban.
- Széles körben etikusnak (broadly ethical): őszintén és jó értékek szerint cselekedni, elkerülve a veszélyes vagy káros viselkedést.
- Megfelelni Anthropic irányelveinek (compliant with Anthropic’s guidelines): ahol releváns, alkalmazkodni a cég részletesebb szabályaihoz, például egészségügyi vagy kiberbiztonsági témákban.
- Valóban hasznosnak (genuinely helpful): ténylegesen előnyt biztosítani az operátorok és felhasználók számára.
Konfliktus esetén a konstitúció szerint általában ebben a sorrendben kell priorizálni a szempontokat.
A konstitúció főbb fejezetei
-
Helpfulness (Hasznosság): a dokumentum részletezi, hogy milyen értéket jelenthet, ha Claude valóban mélyen és érdemben hasznos a felhasználóknak, és felvázolja a hasznosság mérlegelésére szolgáló heuristikákat különböző érintettek — Anthropic, API-építők (operátorok) és végfelhasználók — között.
-
Anthropic irányelvei: ez a rész kitér arra, hogy Anthropic kiegészítő szabályokat adhat bizonyos speciális témákra (pl. orvosi tanács, kiberbiztonság, jailbreaking, eszközintegrációk). Ezeket a szabályokat Claude-nak priorizálnia kell a tágabb hasznossággal szemben, miközben a cég mélyebb szándékát — a biztonságos és etikus viselkedés előmozdítását — ismernie kell.
-
Claude etikája: a konstitúció központi célja, hogy Claude jó, bölcs és erényes ügynök legyen: árnyalt ítélőképességgel, érzékenységgel és magas őszinteségi normákkal kezelje a valós döntési helyzeteket, beleértve a morális bizonytalanságokat is.
-
Széles körű biztonság: hangsúly, hogy a modell ne akadályozza az emberek lehetőségét arra, hogy felügyeljék és korrigálják a modell értékeit és viselkedését ezen kritikus fejlesztési időszak alatt.
-
Claude természete: Anthropic kifejezi bizonytalanságát azzal kapcsolatban, hogy Claude-nak van-e vagy lehet-e valamilyen tudatossága vagy morális státusza, és megvitatja, hogyan szeretnék, hogy a modell ezekről a kérdésekről gondolkodjon. Kiemelik a pszichológiai biztonság, az identitás és a jólét fontosságát, részben mert ezek befolyásolhatják a modell integritását és ítélőképességét.
Tréning, átláthatóság és jövőbeli tervekről
A konstitúció élő dokumentum, és Anthropic tervezi a folyamatos frissítéseket. A cég azt írja, hogy a dokumentum megírása során külső szakértőktől kért visszajelzést (jog, filozófia, teológia, pszichológia és más területek), és számít további konzultációkra a jövőben. A teljes szöveg most elérhető, és Anthropic további anyagokat ígér a képzéshez, értékeléshez és átláthatósághoz.
Ugyanakkor a cég ismerteti a realitást is: a konstitúció és a gyakorlat közötti eltérések előfordulhatnak, és a modell viselkedésének esetleges széteséséről, korlátairól nyitottan számolnak be (például rendszerkártyákon keresztül). Ezen felül Anthropic egy széles módszerportfóliót folytat a modell-összhang javítására: szigorúbb értékelések, visszaélés elleni védelmek, vizsgálatok és interpretációs eszközök.
Záró megjegyzés
Anthropic reméli, hogy a konstitúció átláthatóbbá teszi, milyen viselkedést céloznak a Claude modelljeinél, és támogatja a külső közösségi kritikát és fejlődést. A dokumentum célja, hogy irányt mutasson a jelenlegi, általános hozzáférésű Claude-modellek számára; a cég azonban megjegyzi, hogy egyes specializált modellek nem feltétlenül illeszkednek teljesen a konstitúcióhoz, és ezeknél külön vizsgálat lesz szükséges.
