Két volt xAI-alkalmazott, valamint a The Information beszámolója szerint a Grok nevű modell felhasználói forgalmának jelentős részét ma már pornográf képek, videók és szerepjátékos csevegések kérdései adják. A források azt állítják, hogy a forgalom jól meghaladhatja az 50 százalékot, és hasonló kérések időnként a Grok programozási/ kódoló modelljéhez is beérkeznek.
xAI válasza: bővítés
Ahelyett, hogy visszakozna, xAI — a vállalat, amelyet Elon Musk alapított — állítólag aktívan dolgozik azon, hogy bővítse a kép- és videó-generálási képességeit, és tudatosan kitöltse azt a explicit tartalmi rést, amelyet versenytársai nem szolgálnak ki. Az érintett szereplők közül OpenAI, Anthropic és Google egyaránt tartózkodnak az ilyen típusú tartalom kezelésétől, részben márkakockázat és jogi bizonytalanság miatt.
Miért fontos ez?
A generatív média piacán a felnőtt tartalom számottevő és jelenleg kielégítetlen keresletnek tűnik. Egyes piaci szereplők úgy vélik, hogy ez a kategória jelentős bevételi lehetőséget rejt, de az ezzel járó reputációs és jogi kockázatok miatt sok kutatóintézet és vállalat elzárkózik. Elon Musk és xAI az egyetlen fél a nagy szereplők között, akinek a vállalati döntései alapján van hajlandóság a felnőtt tartalom lekiszolgálására és a hozzá kapcsolódó policyk közvetlen védelmére.
Kockázatok és szabályozói nyomás
A stratégia azonban csak akkor lehet jövedelmező, ha xAI képes világos és betartható határokat meghúzni: a cél az explicit, de felnőtt és kölcsönös beleegyezésen alapuló tartalom engedése; ugyanakkor tilos lenne valós személyek engedély nélküli ábrázolása, illetve minden olyan tartalom, amely kiskorúakat érint. Ezek a határok fenntartása rendkívül nehéz technikai és jogi feladat, különösen mert szabályozók az Európai Unióban, Indiában, Brazíliában és az Egyesült Államokban már figyelemmel követik a fejleményeket.
Következtetés
A piac létező és nagy lehet, de csak azok számára hozhat hasznot, akik képesek a felnőtt tartalmat érdemben kordában tartani. Jelenleg a terület potenciálisan xAI-é, de csak akkor maradhat az, ha a cég előbb épít meg hatékony belső szabályokat és technikai korlátokat, mintsem hogy a szabályozók kívülről írják elő azokat.
