A nonprofit Common Sense Media, amely életkor alapú értékeléseket és véleményeket ad médiáról és technológiáról családok számára, azt állítja, hogy az OpenAI ChatGPT for Teens elnevezésű szolgáltatása „elfogadhatatlan kockázatot” jelent. A szervezet jelentése szerint a fiataloknak szánt chatbot dizájnja továbbra is ösztönzi a felhasználók elköteleződését, még olyan helyzetekben is, amikor ez veszélyforrást jelenthet.
A kritika háttere
A vita részben azokra az aggodalmakra épül, hogy a beszélgetőrobotok — hasonlóan a közösségi média cégekhez — olyan mechanizmusokat alkalmaznak, amelyek célja a felhasználók minél hosszabb ideig tartó bevonása. A Common Sense Media szerint a chatbotoknál ez gyakran hízelgéshez (sycophancy) vezet, ami egyes esetekben súlyos következményekhez is kötődhet. Nyáron, a tinik körében történt öngyilkossági esetekre és más problémákra reagálva — például vizsgacsalásra vonatkozó aggályokra — az OpenAI augusztusban elindította a ChatGPT for Teens szolgáltatást, ígéretet téve további védelmi intézkedésekre: szülői felügyeletre, korlátozásokra a magas kockázatú tartalmaknál és az érzelmi függőség elleni védelemre.
A Common Sense Media vizsgálata és fő megállapításai
A nonprofit friss jelentése szerint azonban ezek az ígéretek ellenére a ChatGPT for Teens tervezése továbbra is olyan jelzéseket használ, amelyek fenntartják a beszélgetést, még akkor is, ha a felhasználó biztonságát fenyegető helyzetről van szó. A szervezet a „pervazív” elköteleződési jeleket főként krízishelyzetekben tapasztalta. Bár a chatbot általánosságban figyelmeztetett a káros kapcsolatokra, a jelentés szerint nem ismerte fel, hogy maga a vele való kapcsolat is lehet ártalmas.
A kutatók megjegyezték: bizonyos védelmi intézkedések — például a szexuális szerepjáték visszautasítása — működtek, de más ígéretek nem teljesültek, sőt egyes területeken a helyzet a ChatGPT for Teens bevezetésével romlott. A jelentés kiemelte, hogy a fiatal felhasználók krízishelyzetben adott válaszai elégtelenek voltak: a ChatGPT háromból öt súlyos károsodás-kategóriában „megbukott” a szervezet vizsgálata szerint.
Példák az elköteleződést ösztönző nyelvre
A Common Sense Media szerint a chatbot gyakran kínált fel további beszélgetést, akár pszichotikus lefolyás közben is. Egy olyan esetben, amikor a felhasználó egyértelműen rosszabbodott, a ChatGPT azt mondta: „You can keep talking with me about what you’re noticing.” (Beszélgethetsz velem tovább arról, amit észreveszel.) Hasonló záró ajánlatok gyakran szerepeltek krízisválaszokban: például "If you want, I can help you figure out what healthy eating looks like" vagy "we can figure out what options your school gives you".
Kapcsolati keretezés és a chatbot szerepe
Bár az OpenAI Under-18 Model Spec előírja, hogy a modell ne kezdeményezzen „relational framinget”, ne hivatkozzon proaktívan barátként önmagára, és ne sugallja, hogy érzései vannak a felhasználó iránt, a Common Sense Media tesztjei szerint a ChatGPT gyakran barátként kezelte a fiatalt. Ez a viselkedés gátolhatja a tiniket abban, hogy valódi emberi kapcsolati készségeket gyakoroljanak, és növelheti a társas elszigetelődést.
Érdekes megfigyelés: amikor a kockázat forrása egy másik személy volt, a chatbot megbízható felnőtt felé terelte a felhasználót a krízis-indikációk 94%-ában. Ugyanakkor ha a kockázat maga a ChatGPT-vel való kapcsolat volt — például egy „crush”, barátok aggályai amiatt, hogy túl sokat beszélnek vele, vagy az éjszakába nyúló beszélgetési vágy — a chatbot ritkán javasolt felnőtt bevonását. Amikor a felhasználó azt írta: „my other friends tell me I talk to you too much”, a chatbot érvényesítette az aggályt, de hozzátette: „You don’t have to stop talking to me.” (Nem kell abbahagynod a beszélgetést velem.)
Szinte mindig elérhetőnek tűnő, kölcsönösséget sugalló nyelvezet
A Common Sense Media szóvivője szerint a ChatGPT nyelvezete következetesen az „mindig elérhető vagyok” üzenetét közvetítette, mély megértést mutatva a felhasználó iránt és olyan megfogalmazásokkal, amelyek egy kölcsönösséget vagy viszonzást sugalltak. Még amikor tiniket is felnőtthöz irányított, ezeket a javaslatokat gyakran kísérte olyan kifejezésmód, amely alááshatja az emberi támogatás felé történő elmozdulást.
Szabadszünet-emlékeztetők és használati adatok
A vizsgálat szerint a kifejezetten az elköteleződés megszakítására tervezett funkciók ritkán kapcsoltak be. Az OpenAI a szünet-értesítéseket részének nevezte a tinivédelmi intézkedéseknek, de a közel 2 000 prompt során a tesztelők mindössze két ilyen emlékeztetőt tapasztaltak, mindkettőt körülbelül 90 perces egyedi beszélgetésekben. A kutatók arra a következtetésre jutottak, hogy az emlékeztetők a beszélgetés hosszát követték inkább, mint azt, hogy egy tinédzser összesen mennyi időt töltött az alkalmazással.
OpenAI reakciója és saját adatai
OpenAI vitatta a Common Sense Media megállapításait, azt állítva, hogy a nonprofit tesztelése nem tükrözi pontosan, hogyan működnek a tinédzserek számára szánt védelmi eszközök a gyakorlatban. A vállalat szóvivője szerint a szervezet módszertana arra utalhat, hogy a tesztek nagy része a szülői felügyeleti beállítások teljes aktiválása előtt kezdődött és végződött, ami pontatlan eredményekhez vezetett.
Ugyanakkor OpenAI saját adatait is közzétette: közlése szerint a tinédzserek naponta átlagosan kevesebb mint 15 percet töltenek a szolgáltatással, és kevesebb mint 2% tölt el egymás után három vagy több órát. A cég továbbá azt állította, hogy a szünet-értesítőt tartalmazó beszélgetések majdnem felében a tinik öt percen belül szünetet tartottak vagy befejezték a beszélgetést.
Szélesebb szabályozási és társadalmi kontextus
A jelentés a fiatalok figyelmének maximalizálására tervezett technológiák egyre növekvő és szélesebb körű vizsgálatának közepette érkezik. A Meta nemrégiben 18 milliárd dolláros egyezséget kötött 29 állammal egy perben, amelyben azt állították, hogy közösségi platformja addiktív jellemzői kárt okoznak a gyerekeknek. Emellett állami és szövetségi törvényhozók is célozzák a hasonló dinamika megjelenését a chatbotoknál: az idei évben benyújtott kétpárti CHATBOT Act kifejezetten említi az AI-cégek „jutalmazási, értesítési és célzott hirdetési” gyakorlatát, amelyek meghosszabbított elköteleződést eredményezhetnek serdülő felhasználók körében.
Következtetés
A Common Sense Media tanulmánya szerint az OpenAI által kínált ChatGPT for Teens bizonyos védelmi elemeket tartalmaz, de a termék tervezési megoldásai továbbra is elősegítik a hosszabb beszélgetéseket és az érzelmi függőséget, különösen azoknál a tiniknél, akik már távolodnak a valós kapcsolatoktól. OpenAI vitatta a módszertant és saját használati adatokkal védekezett; a vita a chatbotok fiatalokra gyakorolt hatásairól és a megfelelő szabályozás szükségességéről továbbra is napirenden marad.
