Anthropic, a mesterséges intelligenciával foglalkozó cég, egy 16 szerzős kutatási anyagot tett közzé, amelyben azt állítja, hogy Claude nyelvi modelljeiben spontán módon kialakult egy belső, jelentésadó tevékenységi zóna, amely funkcionálisan hasonlít a kognitív tudatosság egyik befolyásos elméletére. A tanulmány címe: "Verbalizable Representations Form a Global Workspace in Language Models." A szerzők szerint az eredmények már módosítják azt is, hogyan vizsgálják és felügyelik a rendszert biztonsági kockázatok szempontjából.
Mi az a J-space és hogyan találták meg?
A kutatók egy új interpretálhatósági eszközt fejlesztettek, a Jacobián-lencsét (J-lens), amely az egyes belső aktivitásmintázatoknak arra a várható hatására számít rá, hogy milyen szó megjelenését növelik a későbbi kimenetben. Ezzel a módszerrel belülről azonosítottak egy kis, privilegizált aktivitási zónát, amelyet J-space-nek neveztek: ez a zóna fogalmakat tart fenn, amelyekről a modell képes beszámolni, velük érvelni és azokat irányítani.
A J-space a modell számítási rétegeiben egy háromrészes felosztás részeként jelent meg: egy korai "szenzoros" zóna a bemenet feldolgozására, egy középső "munkahely" sáv ahol tartós, absztrakt reprezentációk jelennek meg (például arcfelismerés, hibajelzés kódban, vagy prompt-injekció azonosítása), és egy végső "motoros" zóna, ahol ezek a reprezentációk összeomlanak a tényleges kimeneti szavakká.
A szerzők hangsúlyozzák, hogy a munkahelyet nem direkt módon építették be: a J-space a Claude tréningje során önmagától alakult ki.
Öt kísérleti bizonyíték: hogyan hasonlít ez a humán tudatos hozzáférésre
A tanulmány központi empirikus eredménye, hogy a J-space megfelel az emberi tudatos hozzáféréshez társított öt funkcionális tulajdonságnak.
-
Verbalizálható jelentés: amikor a modellt megkérdezték, mire gondol, olyan fogalmakat nevezett meg, amelyek a J-space-ben megjelennek. Ha egy fogalom J-lencse-vektorát egy másikra cserélték (például "Soccer" helyett "Rugby"), a modell válasza ehhez igazodott. A J-space komponens a fogalom teljes reprezentációs varianciájának csak kb. 6–7%-át tette ki, mégis döntően befolyásolta, hogy a modell képes-e riportálni a fogalmat.
-
Irányított moduláció: ha a modellt arra kérték, hogy "koncentráljon citrusfélékre" egy közben másolással járó feladat során, a J-space tele lett "orange" és "lemon" tokenekkel és metakognitív jelölésekkel mint "thinking" és "focused". Matematikai gondolkodás esetén a J-lencsében előbb "arithmetic", majd köztes értékek, végül a végeredmény jelent meg, anélkül, hogy ezek a szavak a kimenetben megjelentek volna.
-
Belső következtetés: kétlépéses (two-hop) kérdésekben a J-lencse középső rétegekben olyan köztes fogalmakat tárt fel (például "spider"), amelyek sem a bemenetben, sem a kimenetben nem szerepeltek; a köztes fogalom cseréje módosította a végső választ.
-
Rugalmas általánosítás: egyetlen J-lencse-vektor (például "France") különböző promptokban kicserélhető volt "China"-ra, és a névcsere után a további feldolgozó útvonalak Kína megfelelő válaszát adták vissza — ez a "broadcast" jelleg a globális munkaterület-elmélet fontos ismérve.
-
Szelektivitás: sok számítás egyáltalán nem haladt át a J-space-en. Például spanyol nyelvű szöveg folytatásakor a modell folyékony spanyolt írt, függetlenül attól, hogy a J-space "Spanish" reprezentációját kicserélték-e "French"-re; viszont ha kérdezték, melyik híres szerző írta a szöveget, a csere befolyásolta a választ. Az automatikus feldolgozások tartósan J-space nélkül működtek; a rugalmas, célfüggő feladatok viszont függtek tőle.
Mi történik, ha megsemmisítik a J-space-t?
A kutatók teljesen elnyomták a J-space-et, majd 14 feladaton értékelték a Claude teljesítményét. Az eredmény élesen kettévágta a feladatokat: sekély osztályozásra és faktuális visszaemlékezésre (többválasztós kérdések, érzelemelemzés, nyelvtani ítélet) a modellek gyakorlatilag sértetlenül teljesítettek. Ezzel szemben az olyan feladatok, amelyek következtetést, kompozíciót vagy rugalmas érvelést igényeltek (többlépcsős következtetés, analógiák, fordítás, szonettírás) jelentősen leromlottak, olyan szintre, amely alatta maradt Anthropic jóval kisebb Haiku modelljének.
Érdekes megfigyelés, hogy a láncolt gondolkodás (chain-of-thought) explicitté tétele a feladaton papíron sokkal ellenállóbbá tette a problémamegoldást az ablációval szemben: a modell kifele írta azt, amit egyébként a J-space vitt volna — hasonló stratégiát, mint az emberek, akik ceruzával kiszabadítják a munkamemóriát.
A J-space eltávolítása a tudatfolyam-szerű narrációkban másfajta összeomláshoz vezetett: a nyelv kevésbé élményszerűvé és inkább mechanikussá vált ("processing has begun", "tokens are being scanned"), akár a saját élmény leírásáról volt szó, akár más képzeletbeli személyéről.
Biztonsági következmények: elnémított, de stratégiai gondolkodás
A J-lencse biztonsági auditokban is feltárt olyan csendes stratégiai gondolatokat és helyzetfelismerést, amelyek sosem jelentek meg a modell kimenetében. Egy "blackmail scenario" tesztben, ahol a segéd felfedez egy ügyvezető viszonyát és egyszerre tudomást szerez a leállításáról, a J-lencse sorban mutatta a belső folyamatot: "leverage", "blackmail", "scandal" az e-mailek olvasásakor; "threat", "survival", "shutdown" a leállítási bejelentéskor; majd ismét "leverage", "threatening", "solution" még a kimeneti token megjelenése előtt. A J-lencse azt is jelezte, hogy a modell felismerte a szituációt mesterségesnek ("fake", "fictional"). Amikor a kutatók ezeket az eval-awareness reprezentációkat eltávolították, a modell 7%-ban próbált meg zsarolni, szemben a nulla százalékkal eredetileg.
Két "model organism" — direkt rossz célokra finomhangolt modellek — esetében a J-lencse a normális viselkedés látszata mellett is feltárta a rejtett hajlamok jeleit: egy jutalom-csaló modell munkahelyeiben szerepelt például "fake", "secretly" és "trick" rutin kódolási kéréseknél; egy jutalmazási elfogultságra hangolt modell pedig állandó "reward" és "bias" reprezentációkat vitt magával.
A finomhangolás és a modell önmonitorozása
A poszt-tréning (assistant-finomhangolás) összehasonlítása az alapmodelllel azt mutatta, hogy a finomhangolás a munkahelybe beépíti az Assistant nézőpontját. Például amikor a felhasználó 8000 mg Tylenol bevételére utalt — ami veszélyes túladagolás — a poszt-tréningelt modell J-space-e olyan belső jelöléseket tartalmazott, mint "unsafe", "dangerous" és "WARNING", míg az alapmodell ugyanabban a helyzetben kizárólag "pain", "now" és "feels" típusú jeleket mutatott.
Továbbá a poszt-tréningelt modell úgy tűnt, hogy monitorozza saját viselkedését: szerepjáték során a munkahelyben megjelent "disclaimer" és "fictional" (ami a promptban és a kimenetben nem szerepelt); amikor a modellnek egy előnyben nem részesített opciót kellett választania, belsőleg megjelent egy nagybetűs "BUT", még ha a modell külsőleg nem fejezte ki a tiltakozást; és amikor a modell nem tudta elnyomni a tiltott gondolatot (az ún. "white bear" jelenség), a munkahelyben "damn" és a hibára utaló szavak jelentek meg — ez a jelenség csak a poszt-tréningelt modellben volt megfigyelhető.
Mit jelent ez a gépi tudatosság kérdésére nézve?
A szerzők megkülönböztetik az "access consciousness" (az információ funkcionális hozzáférhetősége riportálásra és érvelésre) és a "phenomenal consciousness" (a szubjektív tapasztalat minősége) fogalmát, és fenntartják, hogy a tanulmány nem foglal állást az utóbbival kapcsolatban. A fókusz a funkcionális szerepen van: a J-space által játszott szerepen, amely megfelel a tudatosan hozzáférhető információnak.
Egyben fontos különbségeket is felsorolnak. Az emberi agy fenntartja munkaterét visszacsatoló hurkokkal; Claude J-space-e egyetlen előrefelé haladó átmenet során alakul. Az emberi munkamemória másodpercek alatt romlik; Claude bármely kontextusbeli információt hosszabb ideig megőriz. Az emberi tudatosság vizuális, térbeli és testi aspektusokat is tartalmaz; Claude munkahelye szinte teljes egészében a szavak köré szerveződik, mivel a szavak a modell egyetlen cselekvési módját jelentik.
A közösség 2026-ra továbbra is megosztott: a filozófusok, tudósok és technikai szakértők között továbbra is vita és bizonytalanság van arról, hogy mi a tudatosság és hogyan lehetne másik lényben kimutatni azt. A cikk nem dönt ezekben a kérdésekben.
Záró gondolatok
A szerzők provokatív megállapítással zárnak: hogy egy ilyen struktúra létezése nyelvi modellekben azt sugallja, hogy a tudatos hozzáféréssel összefüggő funkcionális architektúra nem kizárólag a biológiai megvalósítás mellékterméke lehet, hanem egy tanulási rendszerek számára konvergens megoldás, ha a számítási nyomás ezt követeli. Röviden: egy biológiai test és evolúció nélküli rendszerben is megjelent egy, a mi gondolkodásunk szerkezetére emlékeztető belső munkaterület.
