Egy hónappal azután, hogy Substack bejelentette partnerségét a Pangram nevű AI-detekciós céggel, a szolgáltatás a felhasználók számára láthatóvá teszi, ha egy szöveg részben vagy egészben gépi nyelvi modell(ek) bevonásával készült. A cél a platform „AI-slop” — azaz alacsony minőségű, gép által előállított vagy gépi eszközökkel nagy mennyiségben előállított — tartalmainak visszaszorítása, illetve az ilyen tartalom olvasásának megnehezítése olyan mechanizmusokkal, amelyek elriaszthatják azokat, akik mesterséges intelligenciát használnak írás helyett.
Mire képes Pangram, és milyen korlátai vannak?
A Pangram 4.0 verziójára hivatkozva a cég és a felhasználói kommunikációk azt állítják, hogy a rendszer nagyon alacsony hamis pozitív arányt (false positive, FP) ért el: 0,0041% körül, ami nagyjából 1 hamis jelzés 24 000 vizsgált dokumentumra vetítve. Ugyanakkor a szerző felhívja a figyelmet, hogy a hamis pozitív soha nem lesz nulla — egyetlen ártatlan téves elítélése is jelent problémát. A szerző idézi William Blackstone elvét (jobb tíz bűnös szabadon, mint egy ártatlan szenvedjen), de arra a következtetésre jut, hogy a Substack–Pangram kezdeményezés esetében a kockázat elfogadható, tekintettel a közösségi platform tisztaságának védelmére.
A Pangram 4.0 további, a cég által közölt technikai adatpontosításai szerint a modell képes megkülönböztetni AI-szerkesztett írást és kevert (human+AI) szerzőséget egyetlen átfordításon belül, 98,83%-os sikerességgel az emberesítésre törekvő módszerek ellen 13 népszerű kereskedelmi eszközön. A cég szerint minden modellcsaládra alacsony hamis negatív arány (FNR) jellemző: 0,7% alatt. Ezeket az állításokat a szerző szerint érdemes független, külső ellenőrzésekkel is alátámasztani.
Hamis pozitívok és hamis negatívok – a trade-off
A cikk részletesen elemzi az AI-detekció ismert trade-offját: ha a rendszer elsődleges célja a hamis pozitívok minimalizálása (ne büntessük a tisztességes emberi szerzőket), akkor a hamis negatívok aránya — amikor AI írást emberinek jelöl a rendszer — magasabb lehet. A cikk szerzője emlékeztet egy korábbi számításra: míg az FP-ráta elméletileg alacsony (0,0041%), a hamis negatívok előfordulása például 0,34% (körülbelül 1/300) nem elfogadható nagyságrend lehet, ha széles körben alkalmazzák.
A partnerség célja: elsősorban visszatartás és átláthatóság
Fontos hangsúly, hogy Substack megoldása nem automatikus büntetőmechanizmus: a Pangram jelzései nem vezetnek automatikus kitiltáshoz, és a felhasználó rendszeresen ki is kapcsolhatja a vizsgálatot. A partnerség inkább egy „külsőleg érvényesíthető közzététel” mechanizmusaként működik: az olvasók eldönthetik, akarnak-e AI-val készült tartalmat fogyasztani. A szerző szerint ez elsősorban visszatartó hatású lehet, és ha hatásos, más platformok és intézmények — közösségi média, magazinok, egyetemek — is átvehetik. A cél, hogy csökkenjen a szándékos, alacsony minőségű gépi tartalom jelenléte a nyilvános térben.
Társadalmi kockázatok: a „mob” és a nuanciák elvesztése
A cikk egyik fő aggálya a társadalmi-dinamikai hatásokban rejlik. Még ha a detektor relatíve jó is, a jelzések körüli kommunikáció és a közönség reakciói „mob” jelenségekhez vezethetnek: felszínes, végletes állítások, sarkos vádaskodás és a kontextus figyelmen kívül hagyása. Substack erre előre felkészített egy figyelmeztetést: "Pangram csak azt észleli, hogy AI-t használtak-e a szöveg létrehozásához, nem azt, hogy mennyi emberi gondoskodás volt benne, vagy hogy AI-eszközöket forrásként használtak-e." Azonban a szerző felhívja az olvasók és írók figyelmét: ismerni kell a detektor korlátait (rövidebb szövegekben megbízhatatlanabb lehet, szeleteléses feldolgozás torz eredményt adhat), és nem szabad ezekre vakon építeni ítéleteket.
Gyakorlati tanácsok szerzőknek és olvasóknak
A szerző gyakorlati javaslatokat fogalmaz meg: ha valaki valóban maga írja a szövegét, akkor nem érdemes a Pangramot használni; ha pedig aggódik az ujjlenyomatok miatt, ellenőrizheti a draftját a detektorral és javíthatja a saját, egyedi hangját. A tanács lényege: legyen meg az írókban a sajátosság, egyediség — a „weirdness” a védőpajzs a gépi konvergencia ellen. Ugyanakkor felszólítja az olvasókat, hogy ne váljanak azonnal boszorkányüldözővé; ismerjék meg az eszköz működését, és gondolkodjanak árnyaltan, ha egy szerzőt AI-használattal vádolnak.
Összegzés: kompromisszumok és következmények
A szerző összegzése szerint a Substack–Pangram partnerség alapvetően pozitív lépés lehet a jobb minőségű, emberközpontú írások elősegítésében. Nem tökéletes megoldás — sem technikailag, sem társadalmilag —, de potenciálisan nagy visszatartó erővel bír az AI-vel előállított „slop” terjedése ellen. A kritikus pontok: a detektorok sosem lesznek száz százalékosak, a hamis pozitívok problémája valós, és a közösségi reakciók kezelése kulcsfontosságú. A végső kérdés a társadalmi döntés: elfogadjuk-e a technikai tökéletlenségeket egy tisztább közösségi tér érdekében, és vállaljuk-e a hozzá kapcsolódó társadalmi feszültségeket?
