Anthropic pénteken közölt blogbejegyzésében részletezte, hogyan fogja cseppvízjellel (watermark) ellátni a Claude nevű chatbot által előállított szöveget, és milyen hatásai lehetnek ennek. A poszt célja az alapvető kérdések megválaszolása volt: miként működik a vízjelezés, el lehet-e rejteni szerkesztéssel, és milyen következményekkel jár ez a kódgenerálás szempontjából.
A bejelentésre azért került sor, mert a cég azt korábban közölte, hogy a vízjelezést a vonatkozó uniós jogszabály, az EU AI Act Transparency Code követelményeinek való megfelelés érdekében alkalmazza. Ez a kódpélda előírja, hogy az AI-szolgáltatók olyan megoldásokat vezessenek be, amelyek lehetővé teszik az AI által generált tartalom azonosíthatóságát.
Vízjelezés koncepciója és észlelhetősége
Anthropic röviden elmagyarázta a vízjelezés ötletét: a modell „alacsony tétű választásoknál” — például amikor az „overcast” és a „grey” között dönt — olyan mintát hoz létre a válaszokban, amely az olvasó számára észrevehetetlen, de egy kulccsal megfejthető. A cég állítása szerint „a vízjelezés nem befolyásolja Claude kimenetének minőségét” és „az olvasó számára a vízjellel ellátott válasz megkülönböztethetetlen a vízjeletlen válaszoktól”.
Anthropic jelezte, hogy a Google DeepMind által 2024-ben ismertetett SynthID-Text megközelítést fogja alkalmazni, és tervezi egy vízjel-észlelő API közzétételét. A cég hangsúlyozta, hogy a vízjelezés más, statisztikai vagy szerkezeti jeleket kereső AI-detektáló eszközöktől eltér: az olyan cégek, mint Pangram, a szöveg speciális mintázatait — például bizonyos szerkezeti fordulatokat — használják fel az AI-használat felismerésére, ami „alapvetően különbözik a vízjel ellenőrzésétől”.
Szerkesztés, újraírás és észlelhetőség
Az érdeklődés egyik központi kérdése az volt, hogy egyszerűen elrejthető-e a vízjel szövegszerkesztéssel. Anthropic szerint lehetséges eltávolítani a vízjelet, de "a könnyű szerkesztés valószínűleg nem távolítja el teljesen a vízjelet", míg "egy teljes újraírás, ahol minden szót kicserélnek, igen". A cég hozzátette: "az utóbbi esetben természetesen vita tárgya lehet, hogy a szöveg továbbra is AI által generáltnak minősíthető-e".
Ha a szöveget csak Claude korrektúrázta vagy szerkesztette, a vízjel észlelhetősége a szöveg hosszától és attól függ, mennyire módosította Claude a tartalmat. Ha csak könnyű szerkesztés történt, a cég szerint „majdnem minden szó” a humán szerzőtől származik, így „nagyon kevés (ha egyáltalán van) elem marad, amihez a vízjel tapadhat”.
Hatás a kódra
Anthropic azt is közölte, hogy a kódnál kevesebb vízjelre lehet számítani, mert a modellnek működő kódot kell előállítania, és nincs mindig lehetősége több, egyenértékű opció közötti választásra. Ugyanakkor ahol a kódban tetszőleges választás adódik — például megjegyzések (comments) szövegénél —, ott a vízjel alkalmazható lesz. A cég szerint ez "definíció szerint elhanyagolható hatással lesz a ténylegesen előállított kódra".
Felhasználói reakciók és az iparági kontextus
A bejelentést követően felhasználói reakciók is megjelentek: Redditen egyes hozzászólók összeesküvésként értelmezték a lépést, míg mások azt írták, hogy az egyetlen ok a vízjel ellen tiltakozni, ha valakit meg akarnak téveszteni. A Business Insider szerint „tömegek” X-felhasználók között azt állították, hogy a vízjel bevezetése miatt lemondták Claude-előfizetésüket.
Anthropic megjegyezte továbbá, hogy Claude nem lesz az egyetlen chatbot, amely vízjellel lát el szöveget: "más jelentős modellfejlesztők is aláírták ugyanazt a Code of Practice-t és ők is bevezetni fogják a saját vízjeleiket".
