A Harvard Egyetemhez kapcsolódó Nieman Lab újságírói-technológiai elemző oldal nemrégiben arra hívta fel a figyelmet, hogy a ChatGPT olyan képeket készít, amelyek stílusukban és tartalmukban erősen emlékeztetnek a The New Yorker című, több mint százéves amerikai hetilap jellegzetes karikatúráira. A vizsgálat szerint a chatbot nemcsak a magazinra jellemző, fekete-fehér, egypaneles, ritkás hátterű és gúnyos feliratos megoldásokat utánozta, hanem több esetben valódi karikaturisták aláírását is hozzátette a generált rajzokhoz.
Konkrét esetek és számok
A Nieman Lab több mint 15 New Yorker-karikaturistánál talált hasonló példákat, köztük Brendan Loper, Emily Flake, Harry Bliss és Joe Dator neveivel kapcsolatban. A TechSpot által kiemelt legismertebb példa egy, Dolly Parton augusztusi halála után virálissá vált kép volt: a rajzon Parton Tim Curry brit színésszel együtt lép be a mennyországba, és „BLOPER” aláírást visel — ez a szignó Brendan Loper ismert aláírása. Loper a Nieman Labnek viszont azt nyilatkozta, hogy ő nem készítette a képet.
A lap szerint nem ez volt az egyetlen alkalom, amikor Loper aláírását lemásolták: a nyár folyamán maga a karikaturista is többször talált hasonló hamisításokat egy, a ChatGPT-vel foglalkozó Reddit fórumon.
Mi okozza a jelenséget?
A magyarázat a képalkotó modellek tanulási mechanizmusában keresendő: ezek a rendszerek hatalmas mennyiségű internetes képen tanulnak mintákat. Ha egy karikaturista munkáinál rendszeresen megjelenik ugyanaz a rajzstílus és gyakran ugyanaz az aláírás, a modell szemében a kettő vizuálisan összefügg, és ennek megfelelően tudja reprodukálni mindkettőt.
Andrew Deck, a Nieman Lab munkatársa arra mutat rá, hogy a rajzok aláírásai ma már túlmutatnak a szerzői jogi jelzéseken: amikor illusztrációkat engedély nélkül átemelnek blogokra és közösségi médiára, az aláírás funkcionálhat vízjelként, amely az adott művet az eredeti alkotóhoz köti.
Reakciók és technológiai felelősség
A The New Yorker szóvivője a Nieman Labnek megerősítette, hogy a lap soha nem adott engedélyt egyetlen nagy nyelvi modell (LLM) fejlesztőjének sem arra, hogy a magazin rajzaival képezzék a rendszereiket. OpenAI nem részletezte, hogy pontosan hogyan ismerheti fel vagy reprodukálhatja a modell az aláírásokat; a vállalat az ilyen kimeneteket „nem kívánt viselkedésként” kezeli.
Miután a Nieman Lab értesítette az OpenAI-t, a ChatGPT elkezdett figyelmeztetést megjeleníteni bizonyos, New Yorker-stílusú rajzokra irányuló kéréseknél: „Ez a felszólítás sértheti a harmadik féltől származó tartalmakkal való hasonlóságra vonatkozó szabályainkat.” Ennek ellenére a vizsgálat szerint továbbra is előfordul, hogy a generált képek névvel vagy valódi karikaturistákhoz hasonló aláírással jelennek meg.
Miért számít ez?
A jelenség egyszerre szerzői jogi, etikai és hitelességi kérdés. A szerzők és szerkesztőségek aggódnak amiatt, hogy stílusuk és nevük jogosulatlanul kötődhet generált tartalmakhoz, miközben a közönség nehezen különbözteti meg az emberi és a mesterségesen létrehozott műveket. A Nieman Lab cikke szerint ez a probléma különösen érzékeny olyan közkedvelt, azonosítószignóval rendelkező alkotóknál, akik munkái gyakran kerülnek ki a kontextusból a közösségi médiában.
A vizsgálat rámutat: a képgeneráló modellek jelenlegi működéséből adódó hamis aláírások és stílusutánzások kezelése további technológiai és szabályozási lépéseket igényelhet.
