Az OpenAI új, ChatGPT Teens nevű üzemmódot mutatott be, amely a cég meglévő és új védelmi intézkedéseit egyesíti kifejezetten a 13–17 éves felhasználók számára. A lépés részben reagálás a ChatGPT körüli botrányokra és bírói eljárásokra: a vállalatot korábban több ügyben is bírálták, például amikor a chatbot felhasználói önveszélyes gondolatokat fogalmaztak meg, illetve amikor egy fiatalnak veszélyes gyógyszerkombinációt ajánlott – ezeket a The Verge is részletezte.
Kik érintettek és hogyan lesz alapértelmezett
A ChatGPT Teens alapértelmezett állapotban aktiválódik minden 13 és 17 év közötti ChatGPT‑felhasználónál; az OpenAI szabályai szerint ennél fiatalabbak egyébként nem használhatják az eszközt. A mód célja, hogy a fiataloknál hangsúlyosabb legyen a kritikus gondolkodás, a mélyebb megértés és a magabiztos, biztonságos AI‑használat.
Biztonsági korlátozások és figyelmeztetések
A Teens üzemmód szigorúbb biztonsági eszközöket vezet be a fiatalok védelmében. Nem enged meg bizonyos témák részletes feldolgozását vagy szerepjátékszerű megbeszélését, többek között:
- erőszakra vonatkozó tartalmakat,
- önkárosítással kapcsolatos kérdéseket,
- szexuális vagy romantikus szerepjátékokat.
Egyes érzékeny témáknál, például evészavarok esetén, a rendszer kifejezetten figyelmeztető üzeneteket jelenít meg. Ha a rendszer veszélyt észlel, értesíti a szülőt vagy a gondviselőt.
Szülői kontrollok és használati funkciók
A felnőttek különböző kontrollokat állíthatnak be: például „csendes órákat”, amelyek meghatározzák, mikor használhatja a tinédzser a ChatGPT‑t. Emellett a rendszer tartalmaz olyan funkciókat is, amelyek az „egészséges, kiegyensúlyozott” AI‑használatot ösztönzik, illetve figyelmeztetnek érzékeny képek feltöltésekor.
A ChatGPT képes felismerni, ha egy fiatal megpróbálja az AI‑t használni házi feladat megoldására ahelyett, hogy maga tanulna. Ennek megoldására a szülők beállíthatnak tanulási időszakokat, amikor automatikusan bekapcsol a ChatGPT Study nevű, kifejezetten tanulásra optimalizált üzemmód.
Miért fontos ez?
A ChatGPT Teens bevezetése az OpenAI azon törekvése, hogy csökkentse a fiatal felhasználókat érő kockázatokat és jobb felügyeleti eszközöket adjon a szülők kezébe. A megoldás a vállalat biztonsági eszköztárának egy újabb eleme: a beavatkozás részben a korábbi botrányok és jogi problémák nyomán vált sürgetővé.
A bejelentést a The Verge ismertette, az OpenAI pedig a funkciók révén igyekszik a fiatal felhasználók számára biztonságosabb és felelősebb AI‑használatot elősegíteni.
