OpenAI előrevetítette a Private Safety Processing (PSP) szolgáltatást, amelynek célja, hogy a több interakciót átfogó mintázatokat azonosítva erősítse a biztonsági védvonalakat úgy, hogy közben ne biztosítson hozzáférést az ügyfél konkrét tartalmához az OpenAI munkatársai számára. A bejelentés hangsúlyozza, hogy a megoldás kompatibilis marad a Zero Data Retention (ZDR) ígéretével.
Mi a ZDR ígérete?
A Zero Data Retention (ZDR) jogosult API-ügyfeleknek egyértelmű kötelezettségvállalást ad: az OpenAI nem őrzi meg a lekérések feldolgozása után az ügyfelek promptjait vagy a modellek válaszait. Az ügyfél-tartalom nem érhető el az OpenAI személyzete számára ellenőrzés céljából, és az vállalati ügyféladatokat az OpenAI nem használja modelltréningre, kivéve ha az ügyfelek kifejezetten beleegyeznek.
Miért van szükség a Private Safety Processingre?
Ahogy a modellek hosszabb, összetettebb feladatokat vállalnak, egyes súlyos kockázatok csak több interakció összefüggésében válnak láthatóvá. A meglévő, ZDR-kompatibilis biztonsági rendszerek általában egyedi interakciókat vizsgálnak. A Private Safety Processing célja, hogy automatizált módon felismerje az ismétlődő vagy összefüggő visszaélésekre utaló mintázatokat anélkül, hogy az OpenAI személyzete hozzáférne a megtartott ügyfél-tartalomhoz.
Hol tárolódhat a tartalom, és hogyan működik a titkosítás?
A PSP az ügyfél tartalmát felhasználja akkor is, ha a tartalom az ügyfél által kezelt infrastruktúrán marad (ZDR telepítések esetén), illetve akkor is, ha az OpenAI által biztosított tárhelyen van. Amennyiben az OpenAI tárhelyét használják, a tartalom titkosítva tárolódik olyan kulcsokkal, amelyeket az ügyfél kontrollál; az OpenAI személyzete nem rendelkezik másolatával ezeknek a kulcsoknak, így nem fér hozzá a titkosított adatokhoz.
Milyen jelzéseket kap az OpenAI, és hogyan kezelhetik az ügyfelek?
Amikor az automatizált rendszer kockázatot azonosít, az OpenAI részére egy pontosan definiált, korlátozott jelzés érkezik arról, hogy milyen típusú tevékenységre utal a mintázat — hasonlóan a ma alkalmazott biztonsági jelzésekhez. Ez a jelzés elegendő lehet a további intézkedések megfontolásához, de az OpenAI személyzete nem kap hozzáférést a befagyasztott vagy megtartott ügyfél-tartalomhoz akkor sem, ha jelzés keletkezik.
Az érintett ügyfelek saját rendszereikben vizsgálhatják a riasztásokat és az esetleges intézkedéseket. Amennyiben az ügyfél fellebbezni szeretne, tisztázni akarja a legitim tevékenységet vagy támogatni kíván egy felderített visszaélés kivizsgálását, önkéntesen megoszthatja a releváns információkat az OpenAI-val.
Kinek szánják és milyen állapotban van a PSP?
A Private Safety Processing jelenleg korai ügyfeleknél tesztelés alatt áll. OpenAI az ügyfelek visszajelzései alapján alakítja tovább a rendszert; a vállalat azzal indokolja a korai előzetes bejelentést, hogy ügyfelei kiszámíthatóságot kértek az adataik védelmének jövőbeni kezeléséről, miközben a modellek képességei növekednek.
Jogszabályi kivétel: CSAM
OpenAI, más élvonalbeli modell-szolgáltatókhoz hasonlóan, jogi kötelezettség miatt jelentenie kell a feltehető gyermekpornográf tartalmakat (CSAM). Az ilyen, potenciális CSAM-re utaló képeket továbbra is megtartják manuális felülvizsgálat és jelentés céljából, még a Zero Data Retention telepítéseknél is.
Ügyfél-visszajelzések és együttműködés
OpenAI kiemeli, hogy a partneri együttműködés kulcsfontosságú a hatékony védelmi megoldások kialakításához. A vállalat ügyfelei olyan szektorokban dolgoznak, ahol rendkívül érzékeny adatok szerepelnek — pénzügyi nyilvántartások, egészségügyi adatok, bizalmas üzleti tervek és szabadalmi, kutatási információk —, és ezek védelme alapvető a szabályozási megfelelés, az ügyfélbizalom és a versenyelőny fenntartásához.
Sunil Agrawal, a Glean Chief Information Security Officer-e idézve azt mondta: „Enterprise AI adoption depends solely on customer control of data, with no direct or derivative use beyond the chosen service. OpenAI’s no-training commitment and ZDR give Glean confidence to build with OpenAI. As models become more capable, OpenAI shows safety can advance without compromising the privacy and control that sustain enterprise trust.”
Következő lépések és idővonal
OpenAI azt tervezi, hogy szeptemberben kezdi meg a Private Safety Processing kiterjesztett bevezetését és egy technikai fehér könyvet is közzétesz a megközelítésről. A vállalat ígéri, hogy folyamatosan tájékoztatja az ügyfeleket, részletezve, hogyan illeszkedik az új megoldás a meglévő kötelezettségekhez, és időt valamint támogatást nyújtva az ügyfelek előkészüléséhez.
