Meta egy eseménydús időszakon van túl: nemrég bemutatta a saját képgeneráló mesterséges intelligenciáját, a Muse Image-et, amelyről hamar kiderült, hogy engedély nélkül képes idegenekről képet készíteni — ami miatt a vállalat végül leállította a fejlesztés ezen részét.
A bemutató másik eleme a Content Seal nevű megoldás volt, amely a Meta szerint egy láthatatlan vízjelként kerül minden Muse Image által generált képre. A cég azt ígérte, hogy ez a jel szinte eltávolíthatatlan lesz: a Meta szerint a Content Seal megmarad akkor is, ha a felhasználók kivágják, tömörítik, átméretezik vagy képernyőképet készítenek az AI által létrehozott képről.
A vállalat azt is közölte, hogy párhuzamosan fejlesztenek egy külön eszközt a Content Seal felismerésére, amelynek feladata ellenőrizni, hogy egy adott kép a Muse Image által készült-e. Reuters vizsgálata szerint azonban ez a detektor távolról sem működik tökéletesen.
A Reuters tesztje alapján amikor a szakértők eredeti formában vizsgáltak 40 darab, a Muse Image által generált képet, a Meta eszköze mind a 40-ről meg tudta mondani, hogy azt az AI készítette (100 százalékos felismerés). Miután ugyanazokat a képeket az eredeti méretük felére vagy harmadára vágták le, a detektáló rendszer már csak a vizsgált képek 55 százalékánál ismerte fel a Content Sealt.
Ez a gyenge teljesítmény jelentős aggodalomra ad okot abban az időszakban, amikor az AI által előállított, egyre élethűbb deepfake képek száma gyorsan nő. A DeepStrike kiberbiztonsági cég adatai szerint az ilyen képek mennyisége 2023 és 2025 között nagyjából évi 900 százalékos növekedést mutatott, miközben a felismerő eszközök fejlettsége nem tartott lépést ezzel a növekedéssel — ahogy a Gizmodo megjegyzi.
A Meta lépése, hogy nyilvánosságra hozta a Muse Image-et, része annak a törekvésnek, hogy csökkentse lemaradását más techvállalatokkal szemben. Ugyanakkor a detektáló eszköz hiányosságai miatt a probléma valószínűleg tovább súlyosbodhat, különösen, hogy a cég hamarosan videógeneráló mesterséges intelligenciát is piacra visz Muse Video néven. A Muse Image fogadtatása és a Content Seal detektálhatóságának kérdései azonban nem jó ómenek a jövőbeli fejlesztések számára.
