Biztonság

Mesterséges intelligenciával generált szöveg

A Claude szöveges vízjele egyelőre csak korlátozottan ellenőrizhető

Az Anthropic a Claude újabb és egyes régebbi modelljeinek szöveges kimenetét rejtett vízjellel látja el.

A Claude szöveges vízjele egyelőre csak korlátozottan ellenőrizhető

Az Anthropic közlése szerint a legújabb Claude-modellek és egyes régebbi változatok világszerte, minden elérési felületen vízjellel látják el a generált szöveget. A géppel felismerhető jel segíthetne kiszűrni a tömegesen előállított MI-tartalmakat, az ellenőrzéshez szükséges detektorhoz azonban egyelőre csak a nagy MI-vállalatok és néhány általuk jóváhagyott szervezet fér hozzá.

Andrew Stellman, a forráscikk szerzője szerint a vízjelezés egyik lehetséges alkalmazása az internetet elárasztó, gyenge minőségű MI-szövegek szűrése. Az Anthropic és az OpenAI hivatalos indoklása az európai uniós MI-rendeletre is hivatkozik, amely géppel olvasható jelölést ír elő a generált tartalmak számára.

A Google 2024 óta használ szöveges vízjelet a Gemini alkalmazásban, az OpenAI pedig októberben jelentette be, hogy az Európai Unióban a ChatGPT és a Codex szöveges kimenetét is ellátja ilyen jelöléssel. Egyik vállalat sem teszi nyilvánosan hozzáférhetővé a szöveges detektorát. A Google SynthID-szolgáltatásával bárki ellenőrizhet képeket, videókat és hanganyagokat, köztük a ChatGPT-vel létrehozott képeket is, szöveget azonban nem.

Tokenek és a következő szó kiválasztása

A vízjelezés megértéséhez a nyelvi modellek működésének kimeneti szakasza a fontos. A modellek nem közvetlenül betűkkel dolgoznak: a tokenizáló a szöveget szavakra vagy szórészekre bontja, és ezekhez számazonosítókat rendel.

Az OpenAI 2019-es GPT-2 modelljének szókészlete például 50 257 tokenből áll. A strawberry szó szóközzel az elején egyetlen tokenként szerepel benne, 41236-os azonosítóval; szóköz nélkül viszont a tokenizáló három részre, st, raw és berry elemekre bontja. Ez a feldolgozás is hozzájárulhat ahhoz, hogy a modelleknek nehézséget okoz a betűk megszámolása.

A tokenazonosítók a kontextusablakba kerülnek, amely egy beszélgetésben általában a korábbi üzeneteket és válaszokat, valamint az alkalmazás által hozzáadott utasításokat vagy fájlokat is tartalmazza. A modell ezek alapján minden lehetséges következő tokenhez valószínűséget rendel. A tényleges választást egy külön futtatókörnyezet végzi el: választhatja a legvalószínűbb tokent, vagy a valószínűségek alapján véletlenszerűen is mintavételezhet. A kiválasztott token ezután bekerül a kontextusba, és a folyamat ismétlődik.

Kétféle vízjelezési módszer

Egy 2023-as tanulmányban John Kirchenbauer és a University of Maryland munkatársai az úgynevezett zöldlistás módszert írták le. Ebben a futtatókörnyezet a következő token kiválasztása előtt növeli egy titkos kulcs alapján meghatározott tokencsoport valószínűségét. A kedvezményezett csoport a kulcs és az előző token függvényében változik, így nem mindig ugyanazok a szavak részesülnek előnyben.

Az ellenőrző a kulcs és a tokenizáló segítségével újra előállíthatja az egyes pozíciókhoz tartozó listákat. Ha a szövegben statisztikailag szokatlanul sok a zöldlistás token, az vízjel jelenlétére utalhat; magára a modellre az ellenőrzéshez nincs szükség.

Az Anthropic szerint a Claude más megoldást használ: a SynthID-Text egy változatát, amelyet a Google DeepMind 2024-ben a Nature folyóiratban ismertetett, és amelyet a Gemini alkalmazásban is alkalmaz. Az Anthropic leírása szerint a vízjel a szóválasztáshoz használt véletlenszerűség forrását módosítja.

A módszer egyszerűsített magyarázata szerint a futtatókörnyezet több jelöltet mintavételez a következő tokenhez, majd mindegyikhez egy titkos kulcstól, a jelölttől és a megelőző tokenektől függő, megismételhető „pénzfeldobást” társít. Olyan jelöltet részesít előnyben, amelynél a feldobás fejet ad. Ha valamennyi jelölt azonos, nincs valódi választási lehetőség, így azon a ponton a jel sem tud megjelenni.

A kulccsal rendelkező detektor később újra elvégezheti a számításokat. A közönséges szövegben nagyjából a pozíciók felénél várható fej, vízjelezett szövegben viszont gyakrabban. A valódi detektorok ennél összetettebb vizsgálatot végeznek.

Egy egyszerűsített kísérlet

Stellman egy interaktív weboldallal is szemlélteti az elvet, amelyet egy MI-asszisztenssel lehet elkészíttetni. A példában egy rövid történet számos szava hasonló jelentésű alternatívára cserélhető. A játék egy ötszámjegyű, 3 1 4 1 5 kulccsal vizsgálja a szavakat: az adott szó és az előtte álló négy szó azonosítóját összeszorozza a kulcs számjegyeivel, majd összeadja az eredményeket. Ha az összeg utolsó számjegye 5 és 9 közé esik, a képzeletbeli érme fejet mutat.

A kiinduló történet 32 vizsgált pozíciójából 14 ad fejet, ami közel van a véletlenül várható feléhez. A felhasználó a szavak cseréjével növelheti ezt az arányt; a játék legalább 60 százaléknál, vagyis 20 fejnél jelez vízjelet. A csere az utána következő négy számításra is kihat, ezért célszerű balról jobbra haladni. Az első négy szónál nincs ellenőrzés, mert nem áll előttük elegendő szó a számításhoz.

Ha a kulcs utolsó számjegyét 6-ra változtatják, a fejek száma várhatóan ismét közelebb kerül a feléhez, és a jelzés eltűnhet, noha az eredeti kulccsal létrehozott minta továbbra is jelen van. Rossz kulccsal ugyanakkor véletlenül is születhet pozitív eredmény.

A kísérlet azt is mutatja, miért megbízhatóbb a hosszabb szöveg vizsgálata. Harminckét független, tisztességes pénzfeldobásnál nagyjából kilencből egyszer véletlenül is legalább 60 százalék lehet a fejek aránya; több száz pozíciónál egy ilyen arány véletlen esélye jóval kisebb.

A játék lényegesen egyszerűbb a valódi SynthID-nél. A tényleges tokenazonosítók nem ábécérendben keletkeznek, a rendszer jóval nagyobb kulcsot és összegzés helyett hashfüggvényt használ, továbbá tokenenként több fordulót végez. A detektorok ezeket eltérően súlyozzák, és kulcsonként vízjelezett, illetve közönséges szövegeken tanítják őket.

Miért marad zárt az ellenőrzés?

A titkos kulcs birtokában nemcsak felismerni lehetne a mintát: a szöveg módosításával gyengíteni vagy eltávolítani is, illetve ember által írt szövegbe szándékosan beépíteni. Egy nyilvános kulcs ezért olyan eszközök készítését is lehetővé tenné, amelyek automatikusan eltüntetik a jelölést.

Ez magyarázhatja, hogy a cégek miért korlátozzák a hozzáférést, bár a döntés egyben a független ellenőrzést is akadályozza. Stellman a cikkében azt írja, jelentkezik a Claude detektorához való hozzáférésért.