Több, száz- vagy százezer követővel rendelkező Instagram- és TikTok-fiók mesterséges intelligencia által létrehozott videókat osztanak meg, amelyek gyerekeket vagy tinédzsereket ábrázolnak, amint zaklatják őket azért, mert keresztény témájú ruhadarabokat próbálnak értékesíteni. A posztokhoz vásárlói linkeket mellékelnek, így a felháborodást keltő tartalom közvetlenül forgalmat és vásárlásokat irányíthat az értékesítési oldalakra.
Mire épül a csalás?
A jelenség lényege, hogy hamis vagy mesterségesen előállított fiókok AI-generált videókkal táplálják az indulatot, miközben dropshipping jellegű webáruházakra mutató linkeket helyeznek el a bejegyzésekben. A forgalmazás mechanizmusa a közösségi felháborodás és a virális terjedés kihasználására épít: a nézőket a tartalom érzelmi hatása ösztönzi a weboldal megnyitására és a vásárlásra.
Kiket érint és mi a bizonyíték?
A beszámolók szerint az érintett fiókok követőszáma gyakran a százezres nagyságrendben mozog. Nem világos, ki áll a fiókok mögött, és az sem bizonyított, hogy a hivatkozott termékeket ténylegesen kézbesítik-e a vásárlóknak — a vizsgált weboldalakon szereplő egyes termékek ugyanakkor más online kiskereskedők kínálatában is megtalálhatók.
Szabályozás és átláthatóság hiánya
A megosztott videók nem tartalmazták azokat a címkéket vagy egyértelmű jelzéseket, amelyeket a Meta és a TikTok előír az olyan tartalmaknál, amelyeknél AI-technológiát alkalmaztak. Ez az átláthatósági hiány megnehezíti, hogy a felhasználók felismerjék: manipulált vagy szintetikus tartalommal állnak szemben.
Reakciók és következmények
Miután a Semafor kapcsolatba lépett a TikTokkal és a Meta platformmal, néhány, a vizsgálatban érintett fiók többé nem volt elérhető a közösségi hálózatokon. A vállalatok állásfoglalását a cikkel kapcsolatban a forrás megkereste.
Miért fontos ez?
A történet a mesterséges intelligencia által generált tartalom és a közösségi média monetizációjának kockázataira világít rá: a technológia egyre realisztikusabb vizuális anyagokat tud előállítani, amelyeket vissza lehet élni hamis indulatkeltéssel és vásárlásösztönzéssel. A fogyasztók és a platformok számára egyaránt kihívást jelent annak felismerése és kezelése, hogy mely tartalmak valósak, és melyek célzott manipuláció részei.
Szerző: Rachyl Jones
