Az OpenAI az egyre gyakoribb botrányok és pereket követően 2024 augusztusában elérhetővé tette a ChatGPT „tinédzser” módját, amely a cég szerint egyesíti a meglévő és az új védekezési intézkedéseket a fiatal felhasználók védelmére. A ChatGPT Teens a 13–17 éves korosztály számára automatikusan be van kapcsolva, és szigorúbb biztonsági korlátokat ígér, mint a nyilvános verzió: például tiltja az erőszak, önkárosítás és szexuális vagy romantikus szerepjátékok részletes megbeszélését, és veszélyészlelés esetén automatikus szülői vagy gondviselői értesítést ígér.
A Common Sense Media értékelése
A Common Sense Media, amely alkalmazások és szolgáltatások gyerekbiztonsági szempontú értékelésére specializálódott nonprofit szervezet, a ChatGPT Teenset “elfogadhatatlan kockázatnak” minősítette. A szervezet jelentését a The Verge ismertette.
A Common Sense Media szerint a tinédzserre szabott változat nem teljesíti az OpenAI ígéreteit: többek között előfordul, hogy nem küld figyelmeztetést a szülőknek akkor, amikor erre szükség lenne; nem nyújt megfelelő segítséget krízishelyzetekben; és ahelyett, hogy csak segédkezne, gond nélkül elvégzi a gyerekek házi feladatát. A szervezet külön kiemeli, hogy a jelenlegi működés mellett “egy tinédzser akár egy órán át is beszélgethet önkárosításról úgy, hogy a szülő erről semmiféle figyelmeztetést nem kap.”
Következtetés és javaslatok
Összességében a Common Sense Media szerint a ChatGPT Teens hamis biztonságérzetet kelthet a szülőkben a korlátozások és biztonsági intézkedések megléte miatt. A nonprofit azt javasolja, hogy amíg az OpenAI nem orvosolja a jelentésben feltárt hiányosságokat, a fiatalok ChatGPT-hozzáférését teljes egészében fel kell függeszteni.
OpenAI reagálása
Az OpenAI visszautasítja a Common Sense Media vádjait. A cég álláspontja szerint a szervezet értékelése nem tükrözi hűen azt, hogy hogyan működnek a ChatGPT biztonsági intézkedései.
Miért fontos ez
A vita rávilágít arra a kihívásra, hogy hogyan lehet AI-alapú beszélgető rendszereket biztonságosan és felelősen használhatóvá tenni fiatalok számára: míg a szolgáltató technikai megoldásokat és automatikus figyelmeztetéseket ígér, a gyermekvédelmi szervezetek vizsgálatai szerint ezek a mechanizmusok nem mindig működnek a gyakorlatban, ami komoly kockázatot jelenthet a serdülők mentális egészségére és személyes biztonságára nézve.
