A Meta ezen a héten mutatta be új, mesterséges intelligenciát kiszűrő detektáló eszközét, amelyet a Muse Image nevű képgeneráló modell bejelentésével egy időben tett közzé. A Reuters vizsgálata szerint azonban az eszköz nem mindig képes felismerni a saját maga által generált képeket, ha azokat egyszerű utólagos szerkesztéssel, például körbevágással módosítják.
A Reuters negyven, a Muse Image programmal készült képet elemzett. A detektáló szoftver az összes eredeti, mesterséges intelligencia által generált képet felismerte, ám ugyanazon felvételek 55 százalékát már nem tudta azonosítani, miután azokat az eredeti méretük nagyjából harmadára vagy felére vágták.
Meta reagálása és a Content Seal
A Meta a honlapján hangsúlyozta, hogy a most bemutatott eszköz egyelőre előzetes, tesztfázisban lévő verzió. A cég szerint a Muse Image minden általa készített képbe beágyazza a Content Seal nevű, láthatatlan vízjelet, amelynek célja, hogy a felhasználók ellenőrizhessék, valóban a Meta modelljei hozták-e létre az adott fájlt. A vállalat állítása szerint a vízjel a gyakori szerkesztések után is sértetlen marad, ugyanakkor a Reuters tesztje rámutat, hogy a drasztikus körbevágás miatt a jel akár elveszhet.
Versenytársak és szakértői vélemények
Hasonló figyelmeztetéseket tettek közzé a Meta versenytársai, a Google és az OpenAI: mindkét cég arra hívta fel a figyelmet, hogy saját detektáló eszközeik sem teljesen megbízhatóak a különféle képmódosító eljárásokkal szemben.
Ljük Szi-vej, a Buffalói Egyetem informatikaprofesszora szerint a vízjelalapú rendszerek nagyon hatékonyak lehetnek, amíg a jelölés sértetlen marad; azonban bármilyen beavatkozás — például körbevágás, átméretezés, erős tömörítés vagy szerkesztés — gyengítheti a beágyazott jelet. Sarah Barrington, a Berkeley Egyetem kutatója azt mondta, hogy a vízjelezés ígéretes megoldás a jövőre nézve, még ha jelenleg nem is tökéletes: szerinte már az is jelentős előrelépés lenne, ha az esetek 90 százalékát sikerülne kiszűrni.
Miért számít ez?
A Reuters megállapítása rámutat arra, hogy a mesterséges intelligenciával generált képek azonosítása nehéz lehet a leggyakoribb utólagos módosítások után. Ez különös jelentőséggel bír egy választási évben — például az amerikai félidős választások idején —, amikor a deepfake és dezinformációs tartalmak felismerése kiemelten fontos lehet.
Forrás: Reuters. A címlapkép illusztráció.
