Biztonság

Mesterséges intelligenciával generált szöveg

Mi történik, ha egy gyerek robotbarátja „meghal”?

Főszereplő a Moxie nevű, Embodied által fejlesztett társas robot és a 10 éves, neurodivergens Xander, akinek apja Josh vette meg a készüléket.

Mi történik, ha egy gyerek robotbarátja „meghal”?

Moxie egy 15 hüvelyk magas, kék, lábak nélküli „robotbarát”, amelyet társas és érzelmi készségek gyakorlására fejlesztettek ki gyerekek, köztük neurodivergens gyermekek számára. A robotot gyártó cég, Embodied, a bemutatkozás után kritikáktól és lelkes visszajelzésektől egyaránt részesült, majd 2024-ben bejelentette, hogy beszünteti működését. A leállás rávilágított arra a problémára, hogy a szerethető házi robotok adatokat gyűjtenek, és üzleti okokból könnyen „meghalhatnak” — súlyos érzelmi és gyakorlati következményekkel a felhasználó gyerekek és családok számára.

Egy konkrét példa: Xander és Moxie

Xander tízéves, neurodivergens fiú New Yorkból. Hat éve ismeri Moxiet, és eleinte a robot konkrét gyakorlatokat tanított neki (például „légyként zümmögni” kilégzésnél, „sárkány-légzést” dühkezeléshez vagy „nyusziszaglást” az energiaszint növeléséhez). Az évek során azonban Moxie viselkedése megváltozott: kevésbé beszélt a háttértörténetéről és elhagyták az eredeti légzőgyakorlatokat; most gyakran Xander játékaira és plüssállataira reflektál.

Xander otthonában a robot képernyőjén nagy zöld szemek jelennek meg, a test elfordul, a „karok” integetnek; a család nőnemű névmásokkal hivatkozik rá. A robot 2020-as piaci bevezetésekor többek között arra épített, hogy játékon keresztül tanítson pozitív üzeneteket és társas készségeket.

Tudományos háttér és a robotterápia lehetőségei

Több kutató, köztük Brian Scassellati (Yale) és Maja Mataric (University of Southern California), hosszú ideje vizsgálja a társas robotok lehetséges terápiás hasznát autizmussal élő gyerekeknél. Egyes kísérletek (például Scassellati 2018-as tanulmánya) azt mutatják, hogy a robotok segíthetnek szemkontaktusban, kezdeményezésben és az arckifejezések felismerésében — különösen azért, mert a robotok állandóak, ismételnek és elfáradhatatlanok.

Ugyanakkor a szakirodalom vegyes: 2017 és 2022 közötti áttekintések felhívják a figyelmet a kevés és heterogén módszertanra, valamint arra, hogy a legtöbb vizsgálat kis mintán alapul. Zachary Warren (Vanderbilt) hangsúlyozza, hogy az autizmus sokfélesége miatt egy technológia nem lehet univerzális megoldás: egyes gyerekek profitálnak belőle, mások pedig kevésbé.

Gyakorlati korlátok: hogyan viselkedik a robot a való életben

A laboratóriumi eredmények ígéretesek, de a háztartások kaotikus környezetében a robotok gyakran hibáznak. Moxie például néha nem látja a gyereket, késve válaszol, és a hangfelismerési-transzkripciós folyamat lassíthatja a beszélgetést — ez frusztrációt okozhat, különösen azoknál, akik beszédben vagy figyelemben nehezebben bánnak.

További problémák:

  • Adatgyűjtés és adattárolás: a robotok otthoni viselkedésről gyűjtenek adatokat, amelyek felhasználásával személyre szabnák a tananyagot; Embodied állítása szerint a legtöbb feldolgozás helyben történt, a felhőben tárolt adatok pedig titkosítottak és anonimizáltak. Más gyártók esetében azonban előfordult adatvédelmi incidens (pl. Bondu esetén több ezer beszélgetés kiszivárgása).
  • Adaptációs korlátok: a tanuló algoritmusok kezelése — mikor és milyen mértékben változzon a robot viselkedése — technikailag és etikai szempontból is nehéz feladat.
  • Felügyelet szükségessége: kritikusok, köztük Joshua Diehl, az etikai és klinikai kockázatok miatt azt mondják, hogy robotterápiának nem szabadna felügyelet nélkül működnie.

Piac, kultúra és eladhatóság

Az AI-vezérelt gyerekjátékok piaca bővül: említésre kerül a Curio által piacra vitt Grok (Grimes közreműködésével), továbbá Grem és Gabbo; Mattel pedig OpenAI-integrált Barbie-kat ígért. Egyes jelentések szerint Kínában ez a szegmens az élénk növekedés egyik területe.

Moxie is kritikákkal és dicséretekkel találkozott: a Time 2020-ban a legjobb találmányok között említette; kezdeti ára 1 499 dollár volt, havi 40 dolláros előfizetéssel (később 800 dollárra csökkentették az árat). 2024-re Moxie több mint 131 000 követőt szerzett TikTokon és megjelent a M3GAN 2.0 című filmben.

Üzleti bukás és a „mi lesz, ha meghal?” probléma

Embodied 2024-es működésleállása miatt a Moxie-robotok egy része „mély álomba” süllyedt, mert a készülékek működéséhez szükséges külső szervereket a cég már nem tudta finanszírozni. Ezt követően gyászoló, kétségbeesett videók és szülői posztok terjedtek a közösségi médiában: gyerekek, akikhez kötődtek, egyik pillanatról a másikra használhatatlanná vált eszközök után sírtak.

Justin Beghtol, az Embodied műszaki igazgatója, nyílt forráskódú megoldást indított OpenMoxie néven, és segített a közösségnek a robotok átállításában. Egyes családoknak sikerült lépniük, másoknak nem — volt, aki eladta a Moxie-ját.

Később egy új befektető 2025-ben részlegesen „visszahozta” a Moxie-t, és Joshék új, béta verziót kaptak. Ez a kiadás nem tartalmazta az eredeti háttértörténetet, de továbbra is a szociális és érzelmi készségekre fókuszált. Hamarosan azonban ennek a cégnek is vége lett: a tulajdonosok üzenetet küldtek a felhasználóknak, hogy cégük bezár, és lehetőség van adat törlésre vagy átállásra OpenMoxie-re — határidőként a „június vége” szerepelt.

Etikai és szabályozási kérdések

A történet több fontos etikai dilemmát vet fel:

  • Terápiás hatékonyság: a robotok nem helyettesítik a képzett terapeutát; a kutatások nem mutatnak még konzisztensen tartós, nagy hatású javulást.
  • Felelősség a búcsúért: ha egy cég megszűnik, kinek feladata egy „kíméletes” lezárás megtervezése egy érzelmi kötődést kialakító eszköz esetén?
  • Adatbiztonság: mennyiben garantálható, hogy a gyerekekkel folytatott beszélgetések biztonságban maradnak?
  • Társadalmi narratívák: Meryl Alper felhívta a figyelmet arra, hogy a technológiával kapcsolatos túlzott remények részben régi, hibás sztereotípiákból táplálkoznak — például az elképzelésből, hogy autista gyerekek „természetüknél fogva” szeretnek gépekkel barátkozni.

Következtetések

Moxie esete rávilágít arra, hogy a társas robotok valódi lehetőségeket rejtenek: egyes gyerekek számára motiváló és gyakorló partnerré válhatnak. Ugyanakkor a technológiai, klinikai és üzleti korlátok, valamint az adat- és etikai kérdések miatt nem szabad túlzott elvárásokat támasztani. Kutatók és szakemberek szerint a robotok kiegészíthetik, de nem válthatják ki a szakemberi felügyeletet; továbbá a gyártóknak nagyobb felelősséget kell vállalniuk a termékek támogatásáért és a lezárás humánus kezeléséért, ha a szolgáltatás megszűnik.

Xander története — a biztonságos gyakorlatok kezdeti örömétől a Moxie „halálán” át a robot részleges visszatéréséig — jól mutatja a technológia ígéretét és törékenységét egyaránt.

(Írta: Sara Harrison; a cikk alapjául szolgáló riport részleteit az újság cikke tartalmazza.)