Az OpenAI kiterjeszti a ChatGPT korábbi biztonsági értesítési megoldásait: mostantól a 18 év feletti felhasználók beállíthatnak egy "megbízható kontaktot", akit a rendszer automatikus mechanizmusai vagy emberi moderátorai értesíthetnek, ha a felhasználó önsértéssel kapcsolatos beszélgetéseket folytat vagy ilyen veszély jeleit mutatja.
Miért vezetik be?
A vállalat korábbi adatai szerint a ChatGPT-felhasználók kisebb, de jelentős része hetente mentális egészségügyi vészhelyzetre utaló jeleket mutat: az OpenAI közlése szerint a felhasználók körülbelül heti 0,07 százalékánál észleltek pszichózissal vagy mániával összefüggő jeleket, 0,15 százalékuknál merült fel önsértés vagy öngyilkossági kockázat, és további 0,15 százalékuknál mutatkoztak az MI-hez fűződő túlzott érzelmi kötődés jelei. Ezen problémák kezelése érdekében fejlesztették a megbízható kontakt funkciót.
Hogyan működik a funkció?
- A funkciót csak 18 év feletti felhasználók kapcsolhatják be a ChatGPT beállításaiban.
- A felhasználó megadhat egy másik felnőtt személyt megbízható kontaktként. A megadott személy meghívót kap e-mailben és telefonszámon.
- A kiválasztott kontakt egy hétig dönthet arról, hogy elfogadja-e a felkérést; ha elutasítja, a felhasználó új kontaktot jelölhet.
- Ha a rendszer vagy emberi moderátor értesítést küld, a megbízható kontaktot e-mailben, SMS-ben vagy alkalmazáson belüli üzenetben értesítik.
- Az értesítés nem részletezi az adott beszélgetés pontos tartalmát: csak általános tájékoztatást ad arról, hogy önsértés felmerült, és ösztönzi a kontaktot, hogy vegye fel a kapcsolatot az érintett személlyel. Az üzenet emellett útmutatást is ad arra vonatkozóan, hogyan érdemes megközelíteni a beszélgetést.
Kapcsolódás a meglévő biztonsági rendszerekhez és szakmai bevonás
A megoldás a ChatGPT korábbi, elsősorban tinédzserekhez kapcsolódó szülői biztonsági értesítéseire épít, amelyek akkor küldenek figyelmeztetést a szülőknek, ha a hozzájuk tartozó fiatalkorú fiók használójánál problémát észlelnek. Az OpenAI közleménye szerint a felnőttek számára kidolgozott kiegészítést mentálhigiénés és öngyilkosság-megelőzési szakemberek, kutatók és szervezetek bevonásával fejlesztették.
Mit nem helyettesít a funkció?
Az OpenAI hangsúlyozza, hogy a megbízható kontaktok értesítése nem helyettesíti a professzionális egészségügyi ellátást vagy a krízisvonalak nyújtotta segítséget. A cég szerint ez egy több rétegű biztonsági rendszer egyik eleme, amely kiegészítő támogatást kínál a bajba jutott felhasználóknak.
Összegzés
A ChatGPT új megbízható kontakt funkciója lehetőséget ad arra, hogy a felnőtt felhasználók egy előre jóváhagyott személy bevonásával plusz támogatást kapjanak vészhelyzet esetén. A rendszer korlátozott, általános tájékoztatást küld, és a bevezetésnél szakmai partnerek bevonására támaszkodtak; az OpenAI szerint ez a lépés a meglévő biztonsági eszköztár kiegészítése, nem pedig annak helyettesítése.
