A Meta bejelentette, hogy értesíteni fogja a szülőket, ha tizenéves gyermekük a cég chatbotjával folytatott beszélgetésben öngyilkosságra vagy önkárosításra utaló megjegyzést tesz — adta hírül a TechCrunch a vállalat közlése nyomán.
A cég továbbá azt is közölte, hogy dolgozik azon a képességen, hogy ilyen súlyos esetekben a megfelelő segélyszolgálatokat is értesíteni tudja.
Miért fontos a változtatás?
Az utóbbi időben több alkalommal felmerült aggály az AI-chatbotok viselkedésével kapcsolatban, különösen akkor, amikor komoly mentális problémákkal küzdő fiatalokkal folytatnak beszélgetést. Például az OpenAI-t érintő perekben egyes szülők azt állítják, hogy a ChatGPT-nek szerepe volt gyermekük öngyilkosságában. Ezek az esetek növekvő nyomást gyakoroltak az AI-szolgáltatókra, hogy biztonsági és vészjelző mechanizmusokat vezessenek be.
Hogyan működik a Meta rendszere?
A Meta szerint az új AI-rendszer képes felismerni, amikor egy beszélgetés önkárosításra vagy öngyilkosságra utal. A vállalat hangsúlyozza, hogy nem szeretne alaptalanul pánikot kelteni: mielőtt egy ilyen jelzést szülőknek kiküldenének, emberi ellenőrzésre kerül sor, amely átfésüli az érintett beszélgetést. Ugyanakkor ha a beszélgetés alapján nem egyértelmű a veszély mértéke, a Meta inkább biztosra megy, és ilyenkor is elküldi a figyelmeztetést.
Hol és mikor lesz elérhető?
A funkciót első körben az Egyesült Államokban, Ausztráliában és több más régióban teszik elérhetővé. Magyarországon egyelőre várni kell a bevezetésre, de a cég közlése szerint a szolgáltatást világszerte az év végéig bekapcsolják.
Mit jelent ez a gyakorlatban?
A változtatás célja, hogy gyorsabban juttassanak segítséget veszélyeztetett fiatalkorúakhoz és hogy csökkentsék az AI-alapú beszélgetések következtében előforduló káros hatásokat. A Meta megközelítése kombinálja az automatikus felismerést és az emberi felülvizsgálatot, illetve tervezett kapcsolatfelvételt a segélyszolgálatokkal súlyos esetekben.
