A Meta kedden bejelentette a Muse Image nevű mesterséges intelligenciára épülő képgenerátort, valamint a fejlesztés alatt álló Muse Video videoterméket. A Muse Image működéséhez nyilvános Instagram-fiókokról származó tartalmakat használ fel.
Személyes próba: könnyű létrehozni valótlan fotókat
A Techtud szerzője asztali gépről bejelentkezett a Meta AI webalkalmazásába (meta.ai) az Instagram-fiókjával, majd a chatbotot megkérte, hogy készítsen róla egy fotót Daniel Craig társaságában egy ejtőernyős ugráson. A rendszer körülbelül egy perc alatt elkészítette a képet, amelyen a szerző és Daniel Craig 3000 méter magasságból nevetve zuhan.
A szerző további opciókat választott (például hegyes háttér, naplemente, akciókamera hatás), és a kép a beállításoknak megfelelően átalakult. A példa bemutatja, hogy pár kattintással olyan, valóságosnak ható képek hozhatók létre, amelyek valójában soha nem készültek.
Nyilvános fiókok és engedély nélkül létrehozott képek kockázata
A cikk rávilágít arra a problémára, hogy a Muse Image nemcsak a felhasználó saját képeiből készít variációkat: a chatbot más emberek Instagram-fiókjából nyert információ alapján is képes új képeket generálni. Ez vonatkozik olyan személyekre is, akiket a felhasználó soha nem követett, vagy akik soha nem voltak a kapcsolatai Instagramon — és mindez az érintett személy engedélye nélkül történhet.
Ennek magyarázata, hogy a nyilvános Instagram-fiókok alapértelmezett beállítása lehetővé teszi mások számára a fotókhoz való hozzáférést és azok felhasználását. Az Instagram frissítette vonatkozó tájékoztatóját, amely szerint: „Ha nyilvános fiókod van, más Instagram-felhasználók új reeleket, bejegyzéseket vagy történeteket hozhatnak létre, amelyek a közzétett fotóid, videóid vagy reeljeid egy részét vagy egészét újrahasznosítják. Ezen felül előfordulhat, hogy mások a Meta mesterséges intelligenciájára épülő funkciók segítségével hoznak létre tartalmat az Instagram-tartalmaid felhasználásával. A másik felhasználó beállításaitól függően ez azt jelenti, hogy az újrahasznosított tartalmaid megjelenhetnek a keresőmotorok találati listájában.”
Meta reagálása: beépített védelmek és szabályzat
A Gizmodo cikkeire reagálva a Meta szóvivője közölte, hogy a Muse Image olyan beépített védelmi eszközökkel rendelkezik, amelyek segítenek megelőzni a szabályzatot sértő tartalmak létrehozását. Ennek megfelelően nem készülhetnek valós személyeket ábrázoló erőszakos, szexuális tartalmú vagy rosszindulatú képek. A Meta közleménye szerint a szabályzatot sértő tartalmak — függetlenül attól, hogy azokat felhasználók jelentik, vagy a rendszer észleli — szankcionálásra kerülnek.
Miért fontos ez?
A történet rávilágít a generatív AI-k és a nyilvános közösségi tartalmak metszéspontjából adódó adatvédelmi és visszaélési kockázatokra. Amíg a platformok ilyen gépi rendszereket kapcsolnak a közösségi médiában elérhető anyagokhoz, addig fennáll annak a lehetősége, hogy engedély nélkül készülnek hitelesnek tűnő képek vagy videók valós személyekről. A Meta által említett védelmi intézkedések célja a káros felhasználások korlátozása, de az eszközök elterjedése és a technikai megvalósítás részletei további kérdéseket vetnek fel a gyakorlatban történő hatékonyságról és a felhasználói jogok védelméről.
