Az OpenAI két, egymást kiegészítő megoldást jelentett be a mesterséges intelligenciával generált képek azonosítására. Az egyik a C2PA nevű, nyílt szabvány alkalmazása: ez a metaadatokba helyezhető jelölés egyértelműen feltünteti, hogy a kép mesterségesen előállított.
A másik eszköz a SynthID, egy láthatatlan vízjel, amelyet az OpenAI a Google-lel együttműködésben alkalmaz. Ez a megközelítés nehezebben észlelhető és eltávolítható, mint a nyilvános metaadat-jelölések, így a rosszindulatú szereplők számára nagyobb kihívást jelent a jelölés eltüntetése.
Ellenőrző eszköz előzetes változata
A vállalat bemutatott egy, mindenki számára elérhető ellenőrzőeszköz előzetes verzióját is, amely mind a C2PA-metaadatokat, mind a SynthID-vízjelet figyeli. Jelenleg ez az ellenőrző csak az OpenAI eszközeivel generált képek jeleit képes felismerni.
Korlátozások és további tervek
A TechCrunch kiemelése szerint az új védelmi intézkedések egyelőre csak az OpenAI által használt megoldásokkal generált fotókra vonatkoznak; az egyéb, kevésbé ismert vagy más fejlesztők által készített AI-képekre ez a lépés nem jelent azonnali megoldást. Az OpenAI szerint a jövőben tervezik az ellenőrző eszköz képességeinek kiterjesztését, hogy több forrásból származó mesterséges tartalmat is felismerjen.
Miért számít ez?
A generált képek egyre gyakrabban jelennek meg az interneten, és míg néhányuk könnyen felismerhető manipuláció, mások olyan élethűek, hogy a szabad szemmel szinte lehetetlen megkülönböztetni őket a valódi fotóktól. A C2PA-metaadat és a SynthID-vízjel kombinációja az OpenAI szerint megnehezítheti a hamisítások és a rosszindulatú felhasználás elterjedését, ugyanakkor nem jelenti a probléma teljes megoldását mindaddig, amíg más szolgáltatók és formátumok is léteznek.
