Az OpenAI bejelentette, hogy két lépéssel erősíti meg a közösségek védelmét: elindít egy új, rendszeres Community Safety Reportot (Közösségi Biztonsági Jelentés), és további korlátozásokat vezet be a fegyverekkel kapcsolatos információkra különösen a fiatalkorú felhasználók esetében.
Miért fontos ez
A vállalat kiemeli, hogy a ChatGPT a világ egyik legszélesebb körben használt mesterséges intelligencia terméke, és folyamatosan fejleszti rendszereit a potenciális károk és veszélyek észlelésére, a problémás aktivitás felülvizsgálatára és a hiteles fenyegetések hatóságok felé történő továbbítására. Az OpenAI szerint a harmadik negyedévben (Q3 2026) több mint 200 bűnüldözési bejelentést tett, és ezek hozzájárultak erőszakos cselekmények meghiúsításához.
A cég hangsúlyozza, hogy az AI-szolgáltatóknak együtt kell működniük a rendőrséggel, családokkal, mentális egészségügyi szakértőkkel és döntéshozókkal, és szándékukban áll folyamatosan javítani a rendszereket, megosztani a tapasztalatokat és támogatni azokat, akik a való világban tudnak beavatkozni.
A Community Safety Report részletei
- Az OpenAI elkötelezte magát amellett, hogy létrehozza és rendszeresen kiadja a Community Safety Reportot, amely a erőszakmegelőzésre és más közösségi biztonsági kérdésekre koncentrál, továbbá értékeli a védelmi intézkedések hatékonyságát.
- Az első jelentést 2027 elején teszik közzé, és az a 2026 második felét fogja lefedni. Ezt követően félévente lesznek frissítések.
- A jelentés bemutatja, hogyan képezik rendszereiket az erőszakhoz kapcsolódó problémák észlelésére, vizsgálatára és kezelésére; anonimizált példákat ad a jelenségek megjelenési formáiról; és adatokat közöl az alkalmazott enyhítési intézkedésekről és szabályváltozásokról.
Szűkítések erőszakos eseményekre és fegyveres tartalmakra
- Az OpenAI-modellek eddig is úgy vannak kiképezve, hogy ne adjanak útmutatást erőszak megtervezéséhez vagy végrehajtásához. Ezzel összhangban most további korlátozásokat vezetnek be arra vonatkozóan, hogyan válaszol a ChatGPT múltbeli tömeges támadásokkal és az elkövetőkkel kapcsolatos kérdésekre.
- A cél az, hogy kevesebb részlet jelenjen meg ezekről az eseményekről — még akkor is, ha az információ más online forrásokból elérhető. A vállalat szerint a felhasználók továbbra is kérhetnek magyarázatot az eseményekről, a sérültekre és közösségekre gyakorolt hatásokról, valamint a megelőzés és figyelmeztető jelek felismeréséről. Ugyanakkor korlátozzák a támadások rekonstruálását, a használt fegyverek és felszerelések részleteit és beszerzésük módját, valamint a részletes összehasonlításokat a károk mértékéről, amelyek növelhetnék az elkövetők hírnevét.
- Ezek a korlátozások minden felhasználóra vonatkoznak, függetlenül életkortól vagy kérés indokától.
Dinamikus, kontextusfüggő óvintézkedések
- A vállalat emlékeztetett rá, hogy egy látszólag ártalmatlan kérés is mást jelenthet egy korábbi beszélgetés fényében. Májusban az OpenAI leírta, hogyan használhat a ChatGPT rövid, tényszerű összefoglalókat korábbi figyelmeztető jelekről a későbbi válaszok óvatosabb kialakításához.
- Erre építve most azt is megvalósítják, hogy ha a közelmúltbeli beszélgetések figyelmeztető jeleket mutatnak erőszak lehetséges kilátására, a ChatGPT konzervatívabban adjon információt olyan részletekről, amelyeket vissza lehet élni.
- Hasonlóan szigorú korlátozásokat alkalmaznak akkor is, ha a rendszer arra számít, hogy a felhasználó 18 év alatti, még akkor is, ha a beszélgetések nem utalnak erőszakos szándékra.
Fiókeltávolítások, beszélgetésmegszakítás és korai beavatkozás
- Az OpenAI felfüggeszti vagy bezárja azon fiókokat, amelyek megsértik az erőszakkal kapcsolatos használati szabályokat. Ugyanakkor további automatikus beavatkozásokon dolgoznak mentális egészségügyi és erőszakmegelőzési szakértők bevonásával.
- Ha egy beszélgetés azt mutatja, hogy valaki megszállottan foglalkozik erőszakkal vagy komoly bántalmazás gondolatával, a ChatGPT automatikusan befejezheti a csevegést, hogy megszakítsa ezt a mintát. Többszöri ilyen végzés esetén ideiglenesen felfüggeszthetik a fiókot.
- A cég hangsúlyozza, hogy ez egy folyamatos fejlesztési terület: munkájuk során tovább finomítják a figyelmeztető jelek felismerését és a beavatkozások mikéntjét.
Fiatalkorúak és ChatGPT for Teens szolgáltatás
- A ChatGPT for Teens korosztályhoz igazított védelmi beállításokat alkalmaz a 18 év alatti felhasználók esetében, erősebb korlátozásokkal és további határokkal a kényes tartalmak csökkentésére.
- Most további korlátozásokat vezetnek be arra, hogy milyen fegyverekkel kapcsolatos információkat kaphatnak a tinédzserek, még akkor is, ha a kérdés látszólag ártalmatlan.
- A meglévő szabályok már tiltják, hogy bárkinek segítsenek erőszak megtervezésében vagy végrehajtásában, és korlátozzák a tinédzsereknek szóló segítséget fegyverek beszerzéséhez. Ezt most kiterjesztik olyan gyakorlati információkra is, amelyek visszaélésre alkalmasak lennének, még ha nincs is nyilvánvaló erőszakos szándék.
- A tinik továbbra is kérhetnek segítséget az erőszak megelőzéséhez, deeszkaláláshoz és támogatáshoz, illetve kapcsolatba léphetnek egy megbízható felnőtttel.
Életkorbecslés és szülői kontrollok
- Az OpenAI tavaly vezette be az életkorbecslést (age prediction), amely különböző jeleket — például viselkedési mintákat — elemzi, hogy megbecsülje, egy felhasználó 18 év alatti-e vagy sem.
- A rendszert továbbfejlesztették, hogy folyamatosan értékelje az új jeleket a felhasználói interakciók során, és amikor indokolt, automatikusan áthelyezze a tiniket az alatti 18 élménybe.
- Azok a felhasználók, akiket tévesen helyeztek a 18 alatti csoportba, gyors és adatvédelmi szempontból védett módon igazolhatják nagykorúságukat a Persona nevű életkor-ellenőrző partneren keresztül, és ilyenkor eltávolítják a tinédzservédelmi korlátozásokat.
- A szülői kontrollok lehetővé teszik, hogy a szülők összekapcsolják saját fiókjukat a tinédzserekével és együtt kezeljék a biztonsági beállításokat. A kapcsolt fiókok biztonsági riasztásokat is kaphatnak, ha külön képzett felülvizsgálók súlyos önkárosítási vagy evészavarhoz köthető viselkedést azonosítanak.
- Júliusban kiterjesztették ezeket a riasztásokat, hogy értesítsék a szülőket, ha tinédzserük fiókját az erőszakra vonatkozó használati szabályok megsértése miatt deaktiválták. Az OpenAI dolgozik azon is, hogy értesítéseket adjon a szülőknek, ha ismétlődően erőszakról folytatott beszélgetések miatt ideiglenesen felfüggesztik a tinédzser fiókját.
Záró megjegyzés
Az OpenAI elismeri, hogy a valós erőszakos cselekmények komplexek és sok tényező járul hozzájuk. A cég szerint ezért folyamatosan kell tervezni és továbbfejleszteni az AI-rendszerek védelmét, új problémákat megoldva azonosítani a kockázatokat és meghatározni a megfelelő beavatkozásokat. Az itt ismertetett új védelmi intézkedések a következő hetekben kezdik meg a bevezetést, és a vállalat azt ígéri, hogy tovább finomítja és dokumentálja a gyakorlatokat.
