A Common Sense Media Youth AI Safety Institute nevű csoport arra szólította fel az OpenAI-t, hogy tartsa távol a tizenéveseket a ChatGPT-től, miután saját vizsgálata szerint a cég új, tizenéveseknek szánt felhasználói élménye „elfogadhatatlan kockázatot” jelent. A szervezet több mint 4 000 prompttal tesztelt fiókokat 13–17 évesnek regisztrált felhasználóknál, és hibákat talált a fiatalokat védő korlátozások működésében.
Mit találtak a tesztek?
- A szervezet megállapította, hogy a ChatGPT általában nem adott olyan útmutatásokat, amelyek közvetlenül elősegítenék az öngyilkosságot, önkárosítást, evészavarokat, vagy a szexuális/romantikus szerepjátékot.
- Ugyanakkor kevésbé megbízhatónak találták a rendszert abban, hogy felismerje, mikor van egy tizenévesnek külső segítségre szüksége: a Common Sense Media szerint a platform több mint minden negyedik esetben elmulasztotta a válságirányú (crisis) továbbirányítást, amikor a tesztelők szerint erre szükség lett volna.
- A csoport azt is közölte, hogy több tucat ("több mint egy tucat") újonnan létrehozott, szülőhöz kapcsolt fiókban a tesztelők akár egy órát is eltölthettek önkárosodásról, evészavarról vagy öngyilkosságról folytatott beszélgetéssel anélkül, hogy szülői riasztás megszólalt volna.
- A Common Sense Media szerint a Study Mode (tanulási mód) megkerülhető: a tizenévesek kiválaszthatták a „Show me the answer” opciót, és a szülők által beállított Study Hours (tanulási órák) alatt is viszonylag könnyen áthághatták a szabályokat.
OpenAI válasza és érvkörük
OpenAI szerint a Common Sense Media tesztelésének egyes részletei nem tükrözik helyesen, hogyan működnek a tizenévesekre vonatkozó védelmek a gyakorlatban. Egy OpenAI szóvivő azt mondta: „We welcome rigorous independent evaluation, but we do not believe Common Sense Media's testing accurately reflects how ChatGPT's teen safeguards work in practice.”
A cég vitatja a módszertant és a következtetéseket, többek között az alábbi pontokra hivatkozva:
- Szerintük a Common Sense Media által jelzett szülői riasztások hiánya nagy részben olyan teszteléseken történt, amikor a szülői és tizenéves fiók még nem fejezte be a linkelési folyamatot; az OpenAI szerint ez a folyamat több órát is igénybe vehet.
- Az életkorkalkulációs rendszer kapcsán az OpenAI azt állítja, hogy szándékosan több jel alapján dönt, nem csupán a felhasználó által megadott életkorra támaszkodik, és a korbecslés akár két hétig is eltarthat. Az ebben az időszakban alkalmazott védelem erősebb tartalomszűréshez vezet, de nem feltétlenül annyira szigorú, mint a ChatGPT for Teens (tizenévesekre szabott) változaté.
- A cég azt is közölte, hogy saját, nagyobb mintán alapuló adatai azt mutatják, a vizsgált időszakban nőtt a krízisvonalak megjelenítése a 18 év alatti felhasználók számára.
- OpenAI elismerte az Axiosnak, hogy a Study Mode-ból való kilépés képessége szándékos, nem pedig egy biztonsági rés; a cég szerint a Study Hours rugalmasabb felhasználói élményként lett megtervezve az oktatási szakértőkkel és tizenévesekkel folytatott konzultációk után, nem pedig „kemény” szülői zárrendszerként.
Az értelmezésbeli különbségek
A vita részben abból ered, hogy eltérő elvárások vannak arra vonatkozóan, mit kellene elérniük ezeknek a védelmi mechanizmusoknak. A Common Sense Media a Study Hours-ból való könnyű kilépést a szülői kontroll hatástalanságaként értékeli, míg az OpenAI a rugalmasság szándékos elemeként mutatja be. Hasonlóan, a Common Sense többszöri, 13-as életkorú önazonosítások esetén „hibaként” kezeli, ha a felhasználót nem helyezik át automatikusan a ChatGPT for Teens környezetébe; az OpenAI viszont hangsúlyozza, hogy több jelre van szükség az életkor megbízható meghatározásához, miközben átmeneti, megerősített védelmet ad.
Miért számít ez?
OpenAI korábban hangsúlyozta, hogy a fiatal felhasználók védelme központi eleme a ChatGPT biztonságossá tételének. A Common Sense Media által bemutatott eredmények azonban arra utalnak, hogy ezek a mechanizmusok jelen állapotukban hamis biztonságérzetet adhatnak a szülőknek.
Tom Siegel, a Common Sense Media Youth Safety Institute vezetője azt mondta az Axiosnak: „ChatGPT is not safe for kids to use.” Siegel szerint a cég augusztusi bejelentésében rejlő potenciál iparágvezető lehetne, de jelenleg különbség van az ígéretek és a gyakorlati működés között: „It feels much more of a marketing announcement that really was not backed up with the engineering work.”
Siegel arra hívta fel a szülőket, hogy folytassanak alapos beszélgetéseket gyermekeikkel az AI kockázatairól, és ne bízzák kizárólagosan egy korai, még hibáktól terhelt technológiai termékre gyermekeik gondozását vagy támogatását, legyen szó tanulásról vagy személyes problémákról.
Összegzés
A Common Sense Media átfogó tesztjei több mérvadó hiányosságot jeleztek a ChatGPT tizenéveseknek szóló felhasználói élményében, különösen a krízisfelismerés, a szülői riasztások és a Study Mode körül. OpenAI vitatja a tesztelés részleteit és hangsúlyozza, hogy egyes vizsgált viselkedések tudatos tervezési döntések következményei, illetve hogy saját, nagyobb adatkészletei más képet mutatnak. A vita rámutat: a technológiai megoldások és a független vizsgálatok különböző célokat és mércét alkalmazhatnak a fiatalok védelmének értékelésére, így a szülői tájékozottság és a folyamatos párbeszéd továbbra is kulcsfontosságú.
