Meta július 8-án indította el a Muse Image nevű funkciót, amely a vállalat Superintelligence Labs nevű egységének első terméke volt és Mark Zuckerberg „személyes szuperintelligenciára” tett fogadásának részeként mutatták be. A szolgáltatás lehetővé tette az Instagram-felhasználók számára, hogy egyetlen koppintással AI-szűrőket alkalmazzanak bármely fotóra — ideértve mások által feltöltött képeket is — és alapértelmezetten be volt kapcsolva.
Kevesebb mint 72 órával a bevezetés után Meta visszavonta a funkciót. A döntésre jelentős felhasználói tiltakozás, valamint a színészszakszervezet, a SAG-AFTRA nyilvános elítélése reagált. Meta elismerte, hogy a funkció „nem találta el a célpontot” ("missed the mark"), és emiatt eltávolították.
Miért számít ez
A Muse Image ügylet több szempontból is figyelemre méltó. Egyrészt ez volt a Superintelligence Labs első nyilvános terméke, így a gyors visszavonás jelzi, hogy a bevezetés előtti kockázatértékelés hiányosságai komoly következményekkel jártak. Másrészt a funkció alapértelmezett bekapcsolása és az, hogy bármely kép módosíthatóvá vált, azonnali visszhangot váltott ki a magánszféra és a visszaélések lehetősége miatt.
Meta a világ egyik legnagyobb felhasználói bázisát kezeli, és hosszú ideje foglalkozik az online visszaélések és adatvédelmi botrányok utóhatásaival. Hogy egy rendszert, amely alapértelmezetten lehetővé teszi mások képeinek megváltoztatását, ilyen gyorsan ki kellett kapcsolni, rávilágít a cég belső folyamatai és a felhasználói reakciók közötti feszültségre.
Következmények és tanulságok
A rövid életű bevezetés megmutatta, hogy még a nagy vállalatok sem feltétlenül tudják előre látni a széleskörű felhasználói reakciókat, különösen akkor, ha egy új technológia potenciálisan sértheti a magánéletet vagy visszaélésekre ad lehetőséget. A Meta visszavonása azt jelzi, hogy a cég nyilvánosan elismerte a hibát, de az is kérdéses marad, hogyan változtatják meg a termékbevezetési és kockázatkezelési folyamataikat a jövőben.
A Muse Image esete fontos példa arra, hogy a „szuperintelligencia” marketingje és a valós hatások közötti távolság jelentős lehet. A funkció visszahívása rövid távon a felhasználói bizalom helyreállítását célozza, hosszabb távon azonban több átláthatóságot és előzetes tesztelést várhatnak el tőle.
Idővonal (röviden)
- Július 8.: Muse Image bevezetése, alapértelmezetten bekapcsolt állapotban.
- Kevesebb mint 72 óra múlva: Meta visszavonta a funkciót, miután felhasználói tiltakozás és a SAG-AFTRA kritikája nyomán a cég elismerte, hogy a megoldás „nem találta el a célpontot”.
