Pangram nevű detektáló eszközt a közelmúltban olyan esetekhez kötötték, amelyekben állítólag AI-által generált írásművek láttak napvilágot nyomtatott és online felületeken. A szoftvert többek között azzal hozták kapcsolatba, hogy hozzájárult egy jövedelmező könyvszerződés meghiúsulásához, illetve hogy leleplezte állítólagos AI-használatot a The New York Times és a The Wall Street Journal lapjain.
Mi derült ki a Pangramról és a felismerési módszerről
Derek Thompson újságíró, aki interjút készített Pangram alapítójával, arról számolt be, hogy a generatív szövegeknek megjelent egy új felismerhető sajátossága. Thompson szó szerinti idézete szerint ez a „Re-re-re-summarizing key points, as each new sentence strains to get a new gold star in being the most helpful takeaway sentence.” (az ismétlődő, újra és újra összefoglaló mondatszerkesztés, ahol minden új mondat igyekszik még hasznosabb összegzést adni).
A megfigyelés arra utal, hogy az automatikusan generált szövegek gyakran redundáns összefoglalásokat és túlzottan „segítőkész” hangsúlyozást tartalmaznak, ami detektálható jellegzetességként használható fel.
Vitát váltott ki: észlelés vagy üldözés?
Bár a Pangram és hasonló eszközök szerepe fontos lehet a publikációs minőség és az átláthatóság szempontjából — például ha valóban automatizált tartalom jelenik meg emberi szerzőségként —, Derek Thompson hangsúlyozta az óvatosság szükségességét is. Thompson szerint az AI-írások elleni „witch hunt” (boszorkányüldözés) „an unwelcome addition to online life” lehet, azaz az agresszív, kiterjedt üldözés nem kívánatos eleme lehet az online közegnek.
Miért fontos ez?
A kérdés kettős: egyrészt a média és kiadói piac számára lényeges a szerzői hitelesség és a szerkesztői minőség megőrzése. Másrészt a detektáló eszközök hibás vagy túlzott alkalmazása jogi, etikai és munkahelyi következményekkel járhat, különösen ha tévesen állítanak valakiről AI-használatot.
Összegzés
Pangram detektáló eszköze a közelmúltban szerepet kapott olyan ügyekben, ahol AI-által generált szöveg feltételezett megjelenését vizsgálták. A generatív modellek újrafogalmazási mintái információt adhatnak a felismeréshez, de az eszközök alkalmazása közben felmerül a túlzott üldözés és a téves megállapítások veszélye is.
(Forrás: Brendan Ruberry írása alapján összefoglalva.)
