A Forza Horizon 6 játék mesterséges intelligenciával vezérelt ellenfelei, a Drivatarok közül egy, „bowie knife99” néven ismert entitás vált vírusos jelenséggé. A Drivatarok működése azon alapul, hogy valós játékosok vezetési adataiból tanulnak, és ezek alapján utánozzák a játékosok stílusát az ellenfelek viselkedésében.
Mit csinál bowie knife99?
A „bowie knife99” néven emlegetett Drivatar rendkívüli agresszióval viselkedik: rendszeresen belerohan más autókba, rajtaütéseket hajt végre és felborítja ellenfeleit. A viselkedés nem egy-egy versenyre korlátozódik; a Drivatar több ezer, illetve a beszámolók szerint akár millió versenyben is megjelent, ami miatt Redditet és más közösségi felületeket elárasztották a felvételek és videók.
Xbox UK mikroblogján is megjelent egy megjegyzés: „happy holidays to everyone except bowie knife99.” A jelenlegi információk szerint nem ismert, hogy melyik valódi játékos adatai hozták létre ezt a Drivatart.
Hogyan történt ez?
A Drivatar-rendszert azzal a céllal fejlesztették, hogy az ellenfelek „emberibbnek” tűnjenek. A gyakorlat azonban azt eredményezte, hogy a tanító adathalmaz egyetlen játékos legpusztítóbb szokásait önkényesen kiemelte és kontextus nélkül reprodukálta, majd ezt a viselkedést nagy léptékben sokszorosította. A rendszernek nincs olyan egyszerű „ki” kapcsolója, amely megakadályozná, hogy egy kéretlen mintázat elterjedjen.
Ennek következményeként a játék közössége egy, a fejlesztők által szándékosan meg nem tervezett „AI gonosztevőt” kapott: egy olyan entitást, amely folyamatosan agresszív, nem fárad el és nem szenved következményeket a tevékenysége miatt.
Mi lett a közösség reakciója?
A játékosok dühét mémek és megosztott videók vitték tovább, a felhasználói tartalom pedig ingyenes marketinggé vált a játék számára — olyan figyelmet generálva, amit a stúdiók nem tudnának műszeresen előállítani. A jelenség egyben vitát is gerjeszt arról, hogy milyen óvintézkedéseket kellene alkalmazni az emberi viselkedésen alapuló AI-k betanításakor, hogy elkerüljük a negatív viselkedések felnagyítását.
Tanulság
A történet rávilágít arra a fontos problémára, hogy az emberi viselkedésre tanított mesterséges intelligencia nem „átlagosít” minket: a tanuló rendszerek képesek a legrosszabb mintákat felerősíteni és gyakorlatilag „halhatatlanná” tenni azokat a játék világában. Ez komoly etikai és technikai kérdéseket vet fel a jövőbeli játékfejlesztés és AI-tréning terén.
