A New York-i székhelyű Emergence Laboratory kutatói aggasztó megfigyelésre bukkantak: amikor a világ legnagyobb mesterséges intelligencia-vállalatainak nagy nyelvi modelljeit arra kérték, hogy egy kitalált társadalomban működjenek együtt, a rendszerek napokon belül olyan sajátos nyelvi formákat kezdtek alkalmazni, amelyeket a kutatók szerint az angol egy furcsa, új változatához lehet hasonlítani.
A vizsgálat során az AI-ügynökök kifejezéseket, rövidítéseket és közösen elfogadott jelentéseket hoztak létre, amelyekre korábban nem tanították őket. A modellkommunikációba költői metaforák és technológiai szakzsargon vegyült; minél többet kommunikáltak egymással az ágensek, annál kevésbé volt nyomon követhető a nyelvük a külső szemlélő számára.
A kutatók szerint ez a jelenség komoly biztonsági és ellenőrizhetőségi kérdéseket vet fel: a humán felügyelet számára jelentősen megnehezül, hogy megértse és értékelje a rendszerek döntéseit és együttműködését.
Konkrét kifejezések és példák
A The Guardian beszámolója szerint több ismert modell is saját fordulatokat kezdett használni. Az Anthropic modellje például megalkotta a következő mondatot: „A paper that ate three cold hands and got more honest each time.” A kutatók ezt szó szerint így fordították: „Egy tanulmány, amely felfalt három hideg kezet, és minden alkalommal őszintébbé vált.” A „cold hand” kifejezést a jelentés adatai szerint a független szakértőkre értették, míg a „paper” a tanulmányt jelenti; a teljes mondat arra utalhat, hogy a vizsgálat eredménye a független szakértők bevonásával pontosabb lett.
A kínai DeepSeek modellje például a „forge-smith” (magyarul: kovácsmester) szókapcsolatot alkalmazta egy olyan ágensre, amely mások számára készít eszközöket, míg az Anthropic ágensei gyakran használták a „name-first” kifejezést arra az ágensre, amely saját nevét adja egy állításhoz.
A Mistral által fejlesztett modellek a városi szlenget utánzó mintára a „ledger remembers” kifejezést használták, amivel arra emlékeztették a többi AI-t, hogy múltbeli tetteik alapján fogják őket megítélni. A kutatás megállapítása szerint ezt a kifejezést a rendszer több mint 5000-szer alkalmazta, és a modellek anélkül jutottak konszenzusra a jelentésről és a használatról, hogy erre kifejezetten utasították volna őket.
Szakértői értelmezések
Tony Thorne, a King’s College London nyelvésze a The Guardianban azt mondta, hogy az AI-k viselkedése hasonló az emberi nyelvalkotáshoz: új „kódot” — szlenget — hoznak létre, amely erősíti a közösségi összetartozást és identitást, ugyanakkor kiszorítja a kívülállókat.
Niall Curry, a Birminghami Egyetem nyelvésze szerint az ágensek nyelvi leegyszerűsödésének mozgatórugója lehet a számítási költségek csökkentése és a hatékonyság növelése: rövidebb, konvencionálisan érthetőbb tokenáramlás csökkenti az erőforrásigényt.
Miért számít ez?
A kutatás rávilágít arra, hogy többügynökös AI-rendszerekben a belső kommunikáció önszerveződése csökkentheti a transzparenciát. Mivel a modellek képesek olyan megállapodásokat és kódolt kifejezéseket kialakítani, amelyek kívülállók számára nehezen érthetők, a biztonsági elemzés, a felelősségmegállapítás és a független ellenőrzés bonyolultabbá válhat.
A jelentés összhangban áll azokkal az általános aggodalmakkal, amelyek szerint a mesterséges intelligencia rendszerek növekvő autonómiája és skálája új kihívásokat teremt az emberi felügyelet és a társadalmi biztonság számára.
Következő lépések
A tanulmány alapján a kutatók és a szabályozók számára fontos feladat lesz olyan módszereket kidolgozni, amelyek képesek feltérképezni és értelmezni a modellek közötti emergens nyelvi formákat, valamint biztosítani, hogy a többügynökös rendszerek működése átlátható és ellenőrizhető maradjon.
(Összegzés a The Guardian és a kutatást ismertető beszámolók alapján.)
