Az Anthropic új szabályzata szerint a vállalat a Claude mesterséges intelligencia-modellek által létrehozott szövegekbe és képekbe láthatatlan jelölést (vízjelet) épít be. A bejelentés célja részben az Európai Unió vonatkozó előírásainak való megfelelés: a Claude által generált tartalmak ezentúl beágyazott, láthatatlan vízjeleket kapnak, amelyek „a szöveggel együtt utaznak”, amikor azt kimásolják és máshová beillesztik. Az AI által készített egyéb fájlok — köztük a képek — digitálisan aláírt metaadatokat kapnak.
Mikor és hogyan jelentették be?
A szabályzatot kedden jelentette be az Anthropic. A vállalat ígérete szerint később további részleteket közölnek arról, hogyan lehet felismerni a vízjelet, de azt már most hangsúlyozták, hogy a rendszer nem lesz teljesen kijátszhatatlan: a szöveges vízjel eltűnhet jelentős átszerkesztés hatására, a fájlok metaadatai pedig például formátumváltás vagy képernyőkép készítése során elveszhetnek.
A szabályozásból a felhasználók nem iratkozhatnak ki, és világszerte minden Claude-modellre és -termékre kiterjed majd, beleértve a Claude Code-ot és a Claude Coworköt is.
Felháborodás és főbb kritikák
A bejelentés gyorsan erős kritikát váltott ki az X-en és a Redditen. Egyes felhasználók „baromságnak”, mások „rendkívül problémásnak” nevezték az intézkedést; egyesek attól tartanak, hogy az általuk személyesen megírt vagy szerkesztett szövegekre is rárakódik a vízjel, mintha a Claude végezte volna a munkát.
Többen – köztük olyanok, akik állításuk szerint kizárólag saját szövegeik korrektúrázására használják a Claude-ot – úgy vélik, hogy a vízjel a szerzői elismerés és a személyes munkák megítélésének kérdését bonyolítja. Programozók is aggályukat fejezték ki; voltak, akik szerint a kódhoz kapcsolódó kriptográfiai aláírás akár ronthatja is a kimenet minőségét.
Egy ismert hangadó, Erick Erickson rádiós műsorvezető és blogger az X-en azt írta, hogy korábban a Grammarly helyett a Claude-ot használta korrektúrára, és most attól tart, hogy az általa megírt szövegeken a vízjel azt fogja jelezni, mintha a Claude végezte volna a munkát.
Kié az AI által létrehozott munka? — a vita
A bejelentés egy szélesebb vitát is felélesztett arról, hogy kit illet az elismerés az AI-val segített munkákért: a gépet, amely létrehozta a tartalmat, vagy azt az embert, aki utasításokat adott, finomított és döntéseket hozott. Egyesek azt hangsúlyozzák, hogy az emberi felhasználót kellene elismerni, hiszen ő adta a kontextust és többször finomította az eredményt; mások viszont úgy vélik, hogy a vízjel egyszerűen azt mutatja, hogy a tartalom mesterséges intelligencia segítségével készült, és nem kell ebből alkotói követelésre következtetni.
Volt olyan nézőpont is, amely szerint etikátlan eltitkolni az AI közreműködését, és ezt a helyzetet egy vezető és egy munkatárs viszonyához hasonlította: ha valaki utasításokat ad és a munkát részben az eszközzel készítteti el, az elismerés feltüntetése szükséges lehet.
A háttér: megfelelés az EU kódexének és iparági trendek
Az Anthropic lépése az Európai Unió AI által generált tartalmak átláthatóságára vonatkozó gyakorlati kódexéhez való igazodást szolgálja. A kódex előírja többek között az AI által generált és manipulált tartalmak megjelölését és felismerését, valamint a deepfake-ek és más mesterségesen előállított vagy módosított anyagok címkézését.
Július végéig közel 200 vállalat csatlakozott a kódexhez, többek között az Anthropic, a Meta, a Microsoft és az OpenAI.
A Google már 2023 óta alkalmaz vízjelet az AI által generált képeknél, és azóta kiterjesztette a technológiát szövegekre, hangokra és videókra is. Az OpenAI is használ láthatatlan vízjelezést képek esetén. Ugyanakkor az OpenAI-nál belső viták folynak arról, hogy bevezessék-e a szöveges vízjelet: a közbeszédben említett ellenérvek között szerepelnek a téves találatok, a rendszer kijátszhatósága és az a félelem, hogy a vízjelezés a konkurenciához terelheti a felhasználókat. Egyelőre ezek az érvek gátolták a széles körű bevezetést.
Mit érdemes megjegyezni?
Az Anthropic intézkedése újabb lépés az iparági szabályozási és átláthatósági törekvések felé, ugyanakkor a gyakorlatba ültetés pontos részletei és határai egyelőre bizonytalanok. A vízjel olvashatósága, tartóssága és a felhasználói aggodalmak kezelése a következő időszakban dől el, amikor a vállalat további információkat közöl a technikai megvalósításról.
