New York-i székhelyű AI-detekciós startup, a Pangram 9 millió dollár kockázati tőkét vont be, vezető befektetőként a Menlo Ventures-szel, további résztvevőként a Haystack, ScOp, Script Capital és Cadenza cégekkel. A tőkebevonás bejelentésével egy időben a vállalat új generációs szövegdetektorát, a Pangram 4-et, valamint egy AI-képdedikciós modellt, a Pangram Image-et is bemutatta.
Mi az újítás?
A Pangram szerint a Pangram 4 modell több mint 99%-os pontossággal képes megtalálni az AI-asszisztált és vegyes ember–AI tartalmakat, valamint könnyebben észleli azokat a programokat, amelyek az AI-írást „emberiesítik”. A képdetektor jelenleg kutatási előnézetben érhető el; a vállalat a szélesebb körű kiadást a következő hetekre ígéri.
A technológia lényege egy nagyméretű gépi tanulási modell, amelyet tízmilliónál is több ismert emberi dokumentumon képeztek. Minden emberi dokumentumról a startup egy „szintetikus tükröt” hozott létre — azonos témájú, hasonló hosszúságú és hangvételű tartalmat generáltak előremutató nagy nyelvi modellekkel (frontier LLM). A modell ezekből tanulja meg az AI és az emberi stílus közti ismétlődő különbségeket, és a Pangram szerint ez lehetővé teszi számára, hogy nagy biztonsággal állapítsa meg egy szöveg eredetét. A cég hangsúlyozza, hogy az észlelés nem metaadatokra vagy rejtett vízjelekre támaszkodik.
Nem csak „minden vagy semmi” kérdés
A Pangram szemlélete szerint az AI-detekciónak nem csupán azt kell megmondania, hogy egy szöveget teljes egészében AI írt-e, hanem azt is, milyen mértékben volt jelen az AI-asszisztencia — például amikor egy emberi szerző megír valamit, majd AI-t kér a szerkesztésre vagy tisztításra. Max Spero, a cég társalapítója szerint az AI használata elfogadható lehet, ha a szerző nyíltan vállalja a segítséget.
Alkalmazások és ügyfelek
A Pangram szolgáltatásai elérhetők webes előfizetéssel (havonta 20 dollár), valamint Chrome-bővítményként, amely valós időben jelöli a posztokat X-en, LinkedInen, Substacken, Redditen és Mediumon. A bővítmény képernyőnkénti arányt is mutat az emberi és AI-tartalomról. A technológiát API-n keresztül is kínálják; ügyfelek között említik a Substacket — amely integrálta a Pangram megoldását, hogy jelezze, mely szerzők használnak AI-t — továbbá Quora-t, iskolákat és egyetemeket, kiadókat, ügynökségeket és toborzókat.
Verseny és szabályozási környezet
A Pangram nem az egyetlen vállalkozás ezen a piacon: versenytársak között említik a Winston AI-t, Originality.ai-t, Copyleaks-et és GPTZero-t. A detektálás iránti keresletot erősítik a botrányok és intézményi intézkedések: például az arXiv új szabályzata szerint olyan benyújtások, amelyek arra utalnak, hogy a szerzők nem ellenőrizték az LLM-kimenetet (például kitalált hivatkozások vagy metaüzenetek), akár egyéves beküldési tilalmat is kiválthatnak.
Független tesztek és korlátok
A TechCrunch által végzett korlátozott tesztek szerint a Pangram 4 erősen teljesít, de nem hibátlan. A cég állítása szerint körülbelül 10 000 emberi dokumentumból egyet tévesen AI-írottként jelöl meg (azaz körülbelül 0,01% hamis pozitív arány). A modell könnyen kiszűrte teljesen AI-által írt cikkeket, és nehezen tévesztették meg a szerkesztett AI-szöveg próbálkozásai. Ugyanakkor előfordult, hogy Pangram AI-s eredetűnek jelezett olyan mondatokat is, amelyeket a tesztelő teljesen átfogalmazott, illetve egyes ember által írt mondatokat részben AI-asszisztáltnak jelölt.
A Pangram Image képdetekciós modell is ígéretesnek bizonyult a tesztekben: a rendszer pixel-szintű eloszlások alapján tanulja meg a valódi fotók és az AI-generált képek statisztikai különbségeit. A modell képes volt felismerni fotórealisztikus és rajzszerű AI-képeket, továbbá azt is, ha egy AI-kép egy valós fotó részét képezi — a szolgáltatás hőtérképpel jelzi a gyanús területeket. Egyes esetekben azonban a modell tévesen emberi képnek minősített egy AI-kép megjelenését tartalmazó fotót.
A Pangram megközelítése
Max Spero leszögezte, hogy nem céljuk a „boszorkányüldözés” azokkal szemben, akik AI-t használnak írásra, ugyanakkor szerinte szükség van egy mechanizmusra az internetre árasztott, minőség nélküli AI-tartalom visszaszorítására. Spero kifejezte aggodalmát a jövővel kapcsolatban: szerinte az AI-tartalom terjedése további erőforrásnövekedéssel (GPU-k) gyorsabb lehet, mint az emberi tartalom előállításának növekedése, és ha nem részesítünk előnyt az emberi tartalomnak, az emberi jel hamarosan eltűnhet a zajban.
Összegzés
A Pangram friss tőkeinjekcióval és új modellekkel lép piacra, miközben az AI-detekció iránti keresletet a botrányok, jogi következmények és intézményi szabályozás is hajtja. A technológia hasznos eszköz lehet a humán tartalom megkülönböztetésére, de a jelenlegi tesztek szerint még mindig vannak tévedések, ami a feltárás és a további fejlesztés szükségességét jelzi.
