Az OpenAI új eszközöket jelentett be a gyermekek szexuális bántalmazását ábrázoló anyagok (CSAM) elleni fellépésre, miközben egyre nagyobb figyelem irányul a mesterséges intelligencián alapuló szolgáltatások biztonsági kockázataira. Az intézkedések között képellenőrző modell, ChatGPT-figyelmeztetések és ideiglenes fiókletiltások, fejlesztői útmutató, valamint a bűnüldöző szerveknek szánt eszközök szerepelnek.
Képek ellenőrzése
Az új képosztályozó a mesterséges intelligenciával létrehozott ábrázolásokban is képes felismerni a gyermekek szexuális bántalmazására utaló jeleket. Az OpenAI kiválasztott vállalatok számára díjmentesen hozzáférhetővé teszi az eszközt a saját API-ján keresztül. A rendszer korábban nem látott képeken keres vizuális jeleket, és pontszámot rendel hozzájuk, amely támpontot adhat az ellenőrzést végző szakembereknek.
A vállalat a National Center for Missing and Exploited Children (NCMEC) szervezettel együtt fejlesztette az osztályozót, a hozzáférés megosztásában pedig a Tech Coalition és a ROOST közreműködésével dolgozik. Az OpenAI szerint a partnerekkel végzett korai tesztekben az eszköz 48 százalékkal kevesebb képet jelölt meg, miközben ugyanannyi bántalmazást ábrázoló képet talált meg, így csökkentette az ellenőrök munkaterhét. A megjelölt képek között kétszer akkora valószínűséggel szerepeltek bántalmazást ábrázoló felvételek.
Figyelmeztetések a ChatGPT-ben
A ChatGPT új figyelmeztető képernyőket kap azoknak a felhasználóknak, akik gyermekeket szexualizáló tartalomhoz próbálnak hozzáférni. Az ilyen kéréseknél a rendszer figyelmeztetést jelenít meg, speciális segítséghez irányítja a felhasználót a káros viselkedés megállítása érdekében, és 24 órára felfüggeszti a fiókot. A szolgáltatás már eddig is blokkolta a CSAM-tartalmakat és a hozzájuk kapcsolódó kéréseket; ismétlődő szabálysértés esetén a fiókot véglegesen eltávolíthatják.
Az OpenAI szerint az üzeneteket és az erre a viselkedésre vonatkozó irányelveket szervezetekkel és kutatókkal együtt alakította ki. Köztük volt a Protect Children, a Lucy Faithfull Foundation és Joel Scanlan, a University of Tasmania kutatója, aki függetlenül értékelte a visszatartó üzenetek próbáját.
Útmutatás fejlesztőknek és nyomozóknak
A vállalat útmutatót is közzétesz az OpenAI eszközeit használó fejlesztőknek arról, miként előzhetik meg és észlelhetik a CSAM megjelenését, illetve hogyan segíthetik a felhasználókat az ilyen tartalmak bejelentésében. A cég szerint a korai tesztelés során az iránymutatás több fejlesztőt segített gyermekbiztonsági eszközök alkalmazásában és abban, hogy regisztráljon a CSAM NCMEC-nek történő bejelentésére.
Az OpenAI emellett gyermekbiztonsági ügyekkel foglalkozó bűnüldöző szerveknek ad mesterséges intelligenciával működő eszközöket, köztük célzott bővítményeket, nyomozási eszközöket és összetett adatelemzési lehetőségeket. A hozzáférést a programok adminisztrátorai kezelik. A vállalat képzést és a mesterséges intelligencia használatát bemutató gyakorlati útmutatót is biztosít a nyomozóknak.
Növekvő biztonsági aggodalmak
Az OpenAI ellen több per indult arra hivatkozva, hogy technológiája kárt okozott felhasználóknak, különösen gyermekeknek. A biztonsággal foglalkozó Common Sense Media nonprofit szervezet elfogadhatatlan kockázatúnak minősítette az OpenAI technológiáját a tizenévesek számára. Más MI-chatbotokat, különösen a Grokot, beleegyezés nélkül készült szexualizált képek létrehozására is használtak, köztük gyermekeket ábrázoló képekhez.
Az elmúlt 12 hónapban az OpenAI több biztonsági változtatást vezetett be: biztonsági tervet tett közzé, frissítette tartalmi irányelveit a nem megfelelő tartalmak tiltására, módosította modelljeit a káros tartalom létrehozásának megelőzésére, és kiadta a ChatGPT tizenéveseknek szánt változatát.



