OpenAI bejelentette, hogy a Google SynthID technológiáját beépíti a GPT-image-2 modelljébe, és egy nyilvános képelőállítás-ellenőrző eszközt tett elérhetővé az openai.com/research/verify címen. A szolgáltatás lényege, hogy bármilyen képet feltöltve másodpercek alatt visszaad egy döntést arról, hogy a kép generált-e.
Mi a technika lényege?
A bejelentés szerint a megoldás két elemet kombinál:
- C2PA: egy, már széles körben használt, nyílt forrású forrásazonosítási (provenance) szabvány, amely kriptográfiailag aláírt manifesztet ágyaz a fájlba; ezt a szabványt többek között az Adobe, Microsoft, Sony, Nikon, Leica és Google is alkalmazza.
- SynthID: a Google által fejlesztett jelzés, amely egy láthatatlan aláírást oszlat el magán a képen; a SynthID célja, hogy a kép átméretezése, kivágása, tömörítése vagy formátumváltása után is felismerhető maradjon.
OpenAI közlése szerint az ellenőrző képes megkülönböztetni generált tartalmat olyan manipulációk után is, mint a képernyőkép-készítés, részleges kivágás vagy formátummódosítás, és a feldolgozás eredményét másodpercek alatt visszaadja.
Miért fontos ez?
A két megközelítés kombinálása — a fájlba írt, aláírt manifeszt és a képen elosztott, túlélő jelzés — a gyakorlatban csökkentheti annak esélyét, hogy teljesen megbízhatatlanná váljon az internetes képforrások igazolása. A bejelentés szerint a megoldás a vízjelezési és hitelesítési aszimmetriát fordíthatja meg: eddig könnyebb volt hamisítani trendeket és nehezebb volt ellenőrizni eredetet; az új architektúra e helyzeten javíthat.
Konkrét hatások és következmények
- A nyilvános ellenőrző eszköz elérhetősége alacsonyabb küszöböt jelent az eredet ellenőrzéséhez: bárki feltöltheti a képet a webes felületre és gyors választ kap.
- A megoldás a gyakorlatban a digitális tartalom megbízhatóságának HTTPS-szerű pillanatát idézheti: ha a képek forrása igazolhatóvá válik, az csökkenti a hamis trendek létrejöttének gazdasági értékét.
Összefoglalás
OpenAI és Google megoldásainak összehangolása nem állami szabályozás hatására jött létre a bejelentés szerint, hanem piaci érdekből: egy olyan interneten, ahol egyetlen kép sem tekinthető megbízhatónak, az AI-szolgáltatók üzleti modellje is sérül. A C2PA-manifeszt és a SynthID kombinációja célja, hogy ellenállóbbá tegye az AI-által generált képek azonosítását a mindennapi módosításokkal szemben.
