Januárban Donald Trump elnök két rövid videót osztott meg egy népszerű YouTube-csatornáról, amely drámainak tűnő állításokat közölt: állítólag a Walmart százait zárja be kaliforniai üzletei közül. A hírek nem voltak igazak. A Kaliforniai Kormányzó, Gavin Newsom kommunikációs csapata azonban nemcsak a hamis állítások miatt aggódott, hanem amiatt is, hogy a videók formája és eredete nem volt egyértelmű — mondták ezt két Newsom-stábtag forrásnak.
A szóban forgó @MeganWright62 csatorna túlnyomó részt szenzációhajhász, AI által előállított videókat tett közzé, amelyek különböző vállalatok elhagyását, élelmiszerhiányt üzletekben vagy tanárok tömeges távozását mutatták be. A csatorna tartalmait mesterséges intelligencia állította össze és nagy léptékben gyártották pontosság nélkül; a videók mégis elég jól néztek ki ahhoz, hogy egyes nézők ne vegyék észre vagy ne törődjenek azzal, hogy azok AI-alkotások.
Newsom csapata az elmúlt hónapokban több száz ilyen fiók eltávolítását próbálta elérni, miközben egyre inkább az AI-gyártású spamre figyelnek a médiafigyelés során. A stáb szerint a terjedő AI-narratívák olyan hamis állításokat terjesztettek, például hogy a Kroger bezár egy kaliforniai elosztóközpontot, hogy a Costco és a Shell bezárják üzleteiket és kúthálózatukat, vagy hogy a GM és a Ford kaliforniai üzemeket zártak be — pedig ez utóbbi két autógyártónak évtizedek óta nincs gyára az államban.
Eltávolított fiókok és a „likeness protection” program
Newsom irodája szerint YouTube-bal együttműködve január óta több mint 700 fiókot azonosítottak, amelyeket később eltávolítottak a platform szabályzatának megsértése miatt a YouTube „likeness protection” programján keresztül. Ez az új rendszer közszereplők, alkotók és újságírók arcképének jogosulatlan felhasználását jelzi. A több mint 700 fiókból a kormányzati stáb több mint 100-at nevezett meg olyanokként, amelyek AI-állítással generált tartalmakat tartalmaztak, és amelyekről azt állították, hogy hamisak vagy nagyon félrevezetők voltak Newsomra és Kalifornia hanyatlására vonatkozóan.
Brandon Richards, a kormányzó szóvivője szerint „jelenleg az algoritmusok jutalmazzák a hazugságokat, és a rossz szereplők kihasználják ezt — különösen azok, akik egy megosztott Amerikát akarnak látni”. Ugyanakkor Richards azt mondta, hogy a nagy techplatformok, köztük a YouTube „segítőkész és együttműködő partnernek” bizonyultak, de hozzátette, hogy a botok és a hozzáférés a hatalmas AI-eszközökhöz, a felhasználói szokásokkal kombinálva, megkönnyíti a dühkeltő és hamis narratívák terjesztését.
Példák: csatornák, nézettség és YouTube válasza
Bár sok ilyen fiók kevesebb figyelmet kap és hamar inaktívvá válik, néhány csatorna — például @MeganWright, @PumpScore és @TaxExodus — néhány tízezertől több százezerig terjedő nézettséget ért el. A New York Reports nevű fiók idén kezdett el posztolni: eleinte AI-avatárral próbált gazdasági összeomlást bemutatni, később hibákkal teli videókat tett közzé, amelyekben valósnak tűnő narráció szerepelt ismétlődő, AI-kiemelt stock felvételekkel.
Egy New York Reports videó, amely egy vegyes vágott anyag volt helyi hírekből és cikkekből, amikor Semafor megtekintette, közel 300 000 megtekintésnél és 1 300 kommentnél tartott. Egy másik márciusi videójuk 90 000-szer volt megtekintve; egy további AI-narrációval és stock anyagokkal telt videó 200 000 megtekintéssel bírt.
Miután a Semafor pénteken jelölte a YouTube-nak a New York Reports, Pump Scope, Tax Exodus és hasonló fiókokat, egy YouTube szóvivő megerősítette, hogy ezeket eltávolították a platform spam-politikájának megsértése miatt. A szabályzat tiltja automata eszközök vagy AI használatát arra, hogy nagy mennyiségű, ismétlődő tartalmat állítsanak elő minimális változtatással.
YouTube kihívásai és lépései az AI-tartalommal szemben
A YouTube is aktívan fejleszt AI-eszközöket, például a YouTube Shorts-hoz és AI-által generált összefoglalókat, átiratokat és interaktív chatfunkciókat. Ugyanakkor a könnyen gyártható, olcsó, alacsony minőségű videók eláraszthatják a platformot, ami aggodalomra ad okot a cégvezetés számára, amelyek szeretnék fenntartani a YouTube minőségét. Neal Mohan, a YouTube vezérigazgatója ebben az évben nyilvános levélben az AI-slop elleni küzdelmet „elsődleges fontosságúnak” nevezte.
A platform az utóbbi hónapokban szigorította a monetizációs szabályokat az „enauthentikus tartalom” körében, például az ismétlődő, sablonalapú videókat, AI-alkotásokat világos narratíva nélkül, és olyan tartalmakat, amelyekben AI-személyiségeket használnak érzékeny témákban. Inkább a nagy mennyiségben AI-slopot posztoló fiókok elleni fellépésre összpontosítottak, nem csupán egyedi videók törlésére.
A videószerkesztő cég Kapwing szerint a YouTube algoritmusa által új felhasználóknak megjelenített videók több mint 20%-a ilyen típusú alacsony minőségű, AI-gyártású tartalom. Politikai tartalom egyelőre viszonylag kis része ennek, de hatása különösen érzékeny lehet, mivel felkorbácsolhatja a politikai vitákat és félrevezetést.
Akadémiai nézőpont és további kilátások
Camille François, a Columbia kutatója egy e-mailben a Semafornak azt írta, hogy a platformokon megjelenő politikai „slop” és annak forrása „bonyolult és érdekes” kérdés. Egy közelmúltbeli jelentésük arra hívta fel a figyelmet, hogy a rangsorolási jelzők, a monetizációs küszöbök vagy az érdemességi szabályok módosítása megváltoztathatja az alkotói ösztönzőket anélkül, hogy teljes tilalmat kellene bevezetni a generatív tartalomra.
A YouTube arra számít, hogy a közszereplők arcképének jogosulatlan felhasználását automatikusan felismerő és az egyértelműen AI-által generált tartalmakat címkéző rendszerekkel képes lesz visszavetni az AI-slop terjedését. Ugyanakkor a vállalatnak nagy mennyiségű tartalmat kell felügyelnie úgy, hogy közben ne vigyen túlzásba a törlésekkel, és ne érje el a jogos tartalmak ellehetetlenítése miatti vád.
Közben a konzervatív médiahálózatok már régóta gyártanak hasonló célú, ember által készített tartalmakat, így az AI eszközök elterjedése csak tovább bonyolítja a politikai kommunikáció és a platformszabályozás helyzetét.
Következtetés
A YouTube és más nagy platformok egyaránt felismerik az AI-vezérelt alacsony minőségű tartalom kockázatát, különösen amikor az politikai narratívákat és közszereplők arcképét használja. Newsom csapata és más megfigyelők szerint a probléma jelenleg kezelhető, de további rendszerszintű beavatkozások nélkül valószínűleg súlyosbodni fog.
