A TikTok felfüggesztette új, videókat automatikusan összefoglaló mesterséges intelligencia-funkciójának széles körű bevezetését, miután a rendszer sorozatos, szórakoztatóan és súlyosan félrevezető leírásokat generált. A hibák nem csupán apró pontatlanságok voltak: több esetben a rendszer láthatóan elvesztette a kapcsolatot a valósággal és teljesen összefüggéstelen, „szürreális” leírásokat adott.
Példák a tévesztésekre
A Business Insider által összegyűjtött esetek közül az egyik legismertebb a Charli D’Amelio-videókhoz kapcsolódik. Charli D’Amelio, aki 2020 novemberében elsőként ért el több mint százmillió követőt a TikTokon, egy egyszerű beszélő videója kapcsán az AI-összefoglaló szerint „különböző feltétekkel ellátott áfonyák gyűjteményeként” jelent meg. Egy kutyakiképző videónál a rendszer „egy bonyolult origamiművészeti bemutatót” azonosított, Shakira promóciós anyagát „kék alakzatok ismétlődő mozgásaként” írta le, míg Olivia Rodrigo egyik videóját „értelmetlen betű- és számsorokkal” helyettesítette. Több felhasználó úgy vélte, mintha a rendszer véletlenszerű, a vizsgált videó tartalmához nem kapcsolódó szövegeket generálna.
Válaszlépések és korlátozások
A felhasználói visszajelzések hatására a TikTok megerősítette, hogy felfüggeszti az AI-funkció általános használatát. A vállalat közlése szerint a rendszert mostantól elsősorban a videókban szereplő termékek felismerésére fogják alkalmazni, a teljes tartalom automatikus leírását pedig visszavették. A fejlesztést eddig csak korlátozott számú felhasználónál tesztelték az Egyesült Államokban és néhány más piacon.
A cég nem közölte, pontosan mely mesterségesintelligencia-modell működtette az összefoglalókat: az alkalmazáson belüli leírás szerint a rendszer részben saját fejlesztésű technológiát, részben külső modelleket használhatott.
Mi történik valójában: az AI-hallucinációk problémája
A mostani eset jól példázza, hogy még a fejlett AI-rendszerek is hajlamosak hallucinációkra — azaz olyan kitalált információk előállítására, amelyeknek nincs valós alapjuk. Bár a mesterséges intelligencia fejlesztői gyakran hangsúlyozzák a technológia potenciálját a munkaerőpiac és digitális szolgáltatások átalakításában, az ilyen jellegű hibák komoly reputációs kockázatot jelentenek a szolgáltatók számára.
A ByteDance növekedése és a tét
A mostani AI-fiaskó különösen kényes a TikTok anyavállalata, a ByteDance számára, mert a cég értéke gyorsan emelkedik. A legfrissebb magánpiaci tranzakciók alapján a ByteDance-et mintegy 550 milliárd dollárra értékelik, szemben a tavaly említett körülbelül 330 milliárd dolláros értékeltséggel — ez nagyjából kétharmados növekedést jelent egy év alatt. A befektetők szorosan figyelik a vállalatot, részben mert egy jövőbeli tőzsdei bevezetés esetén a ByteDance IPO-ja a technológiai szektor egyik legnagyobb eseménye lehetne.
A ByteDance emellett túlélte az amerikai TikTok-betiltási kísérletet: a cég és az Egyesült Államok között tavaly decemberben született megállapodás lehetővé tette az alkalmazás további működését az Egyesült Államokban. Ebben a kontextusban egy látványos AI-hiba nem csupán technológiai baki, hanem üzleti és reputációs kockázat is egy olyan vállalat számára, amelyet sok befektető a következő globális technológiai óriásként tart számon.
Következő lépések
A TikTok most visszaveszi az automatikus összefoglaló szerepét, és a funkció finomhangolására, valamint a hibák kivizsgálására koncentrál. A cég kommunikációja szerint a tesztelés folytatódik korlátozott körben, miközben a fejlesztők a pontosság javításán dolgoznak.
