Anthropic nemrég bevezette, hogy a Claude nevű chatbot által előállított szerkesztői szövegbe láthatatlan kódot illeszt, amely egyértelműen jelzi, hogy a tartalom AI által generált. A vállalat ezzel a lépéssel az Európai Unió AI-törvényének (EU AI Act) átláthatósági előírásainak próbál megfelelni, amelyek szerint a technológiai cégeknek azonosítható módon kell jelölniük az AI által létrehozott vagy módosított tartalmakat.
Reakciók és vita a felhasználói közösségben
A döntés vegyes fogadtatásra talált az online közösségekben. A Redditen több vita is kialakult: voltak, akik felháborodtak a gyakorlaton, mások támogatják a lépést. Egy erősen kritikus poszt szerzője, a három hete regisztrált visionode felhasználó azt állította, hogy a vízjelezés egy "drámai összeesküvés", amely ártatlan chatbot-felhasználókat büntetne. Szerinte a rendszer igazságtalanul kiszűri majd az átlagos felhasználókat, akik nem lesznek képesek eltüntetni a jelzést.
Visionode szerint különösen sérülékenyek azok az emberek, akik egyszerű segítséget kérnek a Claude-tól — például egy bekezdés átrendezésére, egy hosszú szöveg összefoglalására vagy szinonimák keresésére írói blokk esetén. A felhasználó képe szerint ezek az emberek olyan digitális "tetoválást" kapnak, amely rögzíti AI-használatukat.
A vita azonban nem egyoldalú. Több kommentelő rámutatott, hogy a problémás példák — például egy újságíró, aki egy kétszáz oldalas átiratot kér összefoglalni, vagy egy diák, aki szó szerint beilleszti a chatbot által adott szöveget dolgozatába — etikai aggályokat vetnek fel függetlenül a vízjelezéstől. Ahogy egy hozzászóló megfogalmazta, egy újságíró nem sérül meg attól, hogy a Claude összefoglalójában vízjel van, kivéve ha a summaryt szó szerint beemeli a saját cikkébe, ami eleve etikátlan.
Mások sem vonták kétségbe a kritika jogosságát: egyes posztolók "unethic" és "disgusting" jelzőket használtak, és azt hangsúlyozták, hogy a felhasználók szerint ők adták a legtöbb munkát — utasításokat, kontextust, döntéseket és finomításokat — míg a Claude csak eszközként szolgált.
Ezzel szemben többen rámutattak, hogy a vízjelezés nem azt jelenti, hogy az AI "magáénak vallja" a tartalmat; célja inkább az, hogy gépi módszerekkel felismerhetővé tegye az AI által generált szövegeket a potenciális kockázatok és félrevezetések kezelése érdekében. Egy kommentelő ironikusan megjegyezte, hogy a kritikus maga is Claude-ot használta a panasz megfogalmazásához.
Finomabb kritikák és támogatók
Voltak finomabb, alapvetően elgondolkodtató kritikák is: egy hozzászóló a vízjelezés morális ellentmondására hívta fel a figyelmet, mondván problematikus, hogy egy szerkesztői terméket megjelölnek, miközben az AI-modellek nagyrészt mások munkáinak felhasználásával tanultak. A felhasználó "szörnyű iránynak" nevezte a fejleményt, különösen a tréningadatok eredetének vitájára tekintettel.
Ugyanakkor általánosabban sokan támogatták a vízjelezést, és ésszerű módszernek tartják az algoritmusok által létrehozott anyagok nyomon követésére. Egy másik szálban egy hozzászóló azzal érvelt, hogy nincs jó érv amellett, miért ne lenne hasznos ez a megoldás; szerinte az egyetlen ok, amiért valaki ellenkezne, az az lenne, hogy mások megtévesztésére törekszik.
Miért számít ez?
Anthropic lépése illeszkedik az uniós szabályozói törekvésekhez az AI-átláthatóság növelésére. A vízjelezés technikai eszköz lehet a gépi úton előállított tartalmak azonosítására, ami a dezinformáció, a szerzői jogi visszaélések és az etikai visszaélések elleni küzdelemben játszhat szerepet. Ugyanakkor a bejelentés vitát gerjeszt a felhasználói jogok, az adatforrások etikai kérdései és a gyakorlati megvalósítás körül.
Az online reakciók — a felháborodástól a támogatásig — jól mutatják, hogy a technológiai és társadalmi kérdések metszetében miért nehéz egyensúlyt találni a szabályozás, a vállalati gyakorlatok és a felhasználói elvárások között.
