Az OpenAI bejelentette, hogy egy kiválasztott ügyfélkör számára előzetesen elérhetővé tesz egy új szolgáltatást, amelyet Private Safety Processingnek (magyarul: privát biztonsági feldolgozás) nevez. A vállalat szerint ez a megoldás az eddigi Zero Data Retention (ZDR) elvét szélesíti: automatizált ügynökök figyelik a potenciális visszaéléseket több beszélgetésen át, miközben maga a rendszer nem őriz meg ügyféladatokat.
Mi ez a technológia és hogyan működik?
A Private Safety Processing hosszú távú, többmunkamenetes biztonsági megfigyelésként működik: nem csupán egyetlen munkamenetre alkalmazott ellenőrzést végez, hanem több beszélgetés bemenetét és kimenetét elemzi egymáshoz viszonyítva. Amennyiben az automatizált ügynök egy adott interakciós mintában gyanús jeleket talál, a rendszer riasztást generál, és — az OpenAI közlése szerint — egy „szigorúan meghatározott jelzést” küld a cégnek, amely a konkrét tevékenység típusára hívja fel a figyelmet.
Ha ez a jelzés bekövetkezik, az OpenAI dönt arról, hogy szükséges-e intézkedés. Szükség esetén a vállalat kapcsolatba lép az ügyféllel további kontextus megteremtése vagy együttműködés céljából; az ügyfél a cég tájékoztatása szerint maga döntheti el, hogy megoszt-e további adatokat az OpenAI-val.
Miért lényeges ez a megközelítés?
A technológia kifejezetten arra lett tervezve, hogy kiszűrje azokat a rosszindulatú felhasználásokat, amelyek időben elosztva, több munkameneten keresztül próbálják megkerülni az észlelést. Például egy hipotetikus rosszindulatú szereplő kártékony kód vagy egy kibertámadás kivitelezéséhez szükséges utasításokat több kérésre bontva adhat be szándékosan — a Private Safety Processing képes ezeket a részleteket összekapcsolni emberi beavatkozás nélkül.
Hogyan viszonyul ez Anthropic hozzáállásához?
A bejelentés egyértelműen eltérő irányt mutat Anthropic közelmúltbeli adatmegőrzési politikájától. Anthropic júliusban jelentette be azt a szabályzatot, amely szerint bizonyos, úgynevezett „covered model” osztályú modellek esetén a cég 30 napig megtartja a felhasználói munkamenetek adatait. Az érintett modellek közé tartoznak az Anthropic által Mythos-osztályként említett modellek és „a jövőbeli, hasonló képességű modellek” is.
Anthropic szerint emberi áttekintés is lehetséges az ügyféladatoknál, de ezt csak „szabályozott hozzáférési úton” végzik, egy szűk körű jóváhagyott felülvizsgálói csoporttal, és minden áttekintési munkamenetet „manipulálhatatlan naplóban” rögzítenek.
OpenAI és a Zero Data Retention előzményei
OpenAI — hasonlóan sok más AI-vállalathoz — eddig is alkalmazta a Zero Data Retention politikát, amelyben az API-ba épített ügynökök munkamenetszinten figyelik a visszaéléseket anélkül, hogy a cég hosszú távon tárolná a felhasználói adatokat. A Private Safety Processing ezt a modellt egészíti ki azzal, hogy több munkamenetes mintákat is képes felismerni és kiértékelni, de a vállalat hangsúlyozza, hogy az elemzés automatizált, emberi áttekintés alapértelmezésben nem történik meg.
Verseny és üzleti háttér
A bejelentés egybeesik az OpenAI és Anthropic közötti erősödő versennyel. Egy korábbi jelentés szerint az OpenAI második negyedéves növekedése lassabb volt, mint Anthropic-é, és Anthropic évesített bevételi üteme mostanra állítólag 65 milliárd dollár. Egyes Anthropic-befektetők arra hivatkoztak, hogy a cég akár 2 billió dolláros IPO-t is mérlegelhet; az OpenAI szintén dolgozik tőzsdére lépési tervein.
Összegzés
A Private Safety Processing célja, hogy egyensúlyt teremtsen az ügyféladatok védelme és a hatékony visszaélés-észlelés között: az OpenAI szerint lehetséges a többmunkamenetes visszaélések azonosítása anélkül, hogy a cég hosszú távon megőrizné az ügyfelek beszélgetéseit. A szolgáltatás előzetesen egyes ügyfelek számára lesz elérhető, és a részleteket, valamint a tényleges alkalmazás mikéntjét a cég a továbbiakban finomíthatja.
Fontos név- és időadatok az írásból: OpenAI; Private Safety Processing; Zero Data Retention (ZDR); Anthropic; Mythos; a júliusban bejelentett Anthropic adatmegőrzési politika (30 nap); Anthropic évesített bevételi ütem: 65 milliárd dollár; befektetői spekulációk: akár 2 billió dolláros IPO.
