Jasmine Wang, Tomek Korbak és Mikita Balesni — az OpenAI három biztonsági kutatója, akiket a cég a múlt héten elbocsátott — nyílt levélben utasította vissza a vállalat azon állítását, miszerint a kutatók a vállalati eljárásokon kívül kezeltek volna érzékeny információkat. A levél szerint a kirúgás „lehűlési hatást” idéz elő, amely rombolhatja a cég korábbi nyitott biztonsági kultúráját.
A három kutató csütörtökön továbbított nyílt levelét az OpenAI Safety and Security Committee‑nek, a Safety Advisory Groupnak és a Mission Advisory Councilnak címezte. A levélben azt írják: „Aggodalomra késztet, hogy a kirúgásunk körüli belső és külső kommunikációk miatt korábbi kollégáink félnek megszólalni és olyan módon dolgozni, amely múlt hétig az OpenAI‑nál a munkavégzés szerves része volt.”
A cég korábban azt közölte, hogy a három kutatót azért bocsátották el, mert állítólag titkos vállalati adatokat osztottak meg egy harmadik fél AI‑biztonsági szervezettel, és ezzel megsértették a szabályzatot azzal, hogy „hozzáfértek és kezeltek érzékeny vállalati információkat”. A kutatók ezzel szemben tagadják, hogy kiterjedt vagy jogosulatlan adatmegosztás történt volna.
A nyílt levél hangsúlyozza, hogy az AI nem „normál” technológia, és az OpenAI sem egy átlagos cég: a biztonságon dolgozók gyakran látnak meg kockázatokat másoknál előbb, és külső szakértőkkel való szoros együttműködésre támaszkodnak a kockázatok kezelése érdekében. A kutatók szerint a félelemtől mentes munkavégzés szabadsága, valamint jól meghatározott belső eljárások megléte önmagukban alapvető biztonsági mechanizmusok.
Szerintük a kirúgás egy szélesebb vállalati kultúraváltás jele: korábban bíztatták az alkalmazottakat, hogy felhozzák a biztonsági aggályokat és nyíltan vitatkozzanak; most viszont sokan „nem értik, hol állnak”, ha múlt hónapban normálisnak számító viselkedés hirtelen elbocsátás alapjává válik.
„Figyelembe véve az AI fejlesztésének jelentős biztonsági kockázatait, az alkalmazottakat nem lehet olyan környezetben hagyni, ahol a félelem és a bizonytalan szabályok meggátolják az AI‑biztonsági munkát és gyengítik a harmadik felek elszámoltathatóságát” — írták. Hozzátették, hogy az ilyen jellegű, hirtelen végrehajtott elbocsátások „lehűtik” azt a nyitott kultúrát, amelyet korábban az OpenAI értékelt.
A levél tagadja, hogy a három kutató részt vett volna abban a The Informationnek kiszivárogtatott anyagban, amely az OpenAI legújabb modelljeinek kevésbé megfigyelhető architektúráiról és a chain‑of‑thought (gondolatlánc) nyomon követésének nehezítéséről szólt. A kutatók azt állítják, hogy nem léptek fel külső felekkel a munkaköri meghatalmazáson túli módon.
OpenAI hivatalos választ még nem adott a nyílt levélre; a cég ugyanakkor a TechCrunchnak megosztott egy belső emlékeztetőt, amelyet egy kutatásvezetőnek tulajdonítanak. Az emlékeztető dicsérte a három kutató hozzájárulását az AI‑biztonsághoz és tagadta, hogy a kirúgás megtorlás lett volna: „Egyértelművé akarom tenni, hogy ezek a döntések nem a biztonsági aggályok felvetéséről vagy a megszólalásról szóltak. Mindig ösztönöztük ezt, és a jövőben is ösztönözni fogjuk. Nem bocsátjuk el az alkalmazottakat azért, mert aggályokat vetnek fel.”
A TechCrunch kérdéseire az OpenAI nem válaszolt részletesen: nem közölte, pontosan mely szabályzatokat sértették állítólag a kutatók, milyen körülmények között történtek az elbocsátások, illetve hogyan védi a cég azokat az alkalmazottakat, akik biztonsági aggályokat jeleznek és külső értékelőkkel működnek együtt.
A kirúgások további találgatásokat tápláltak, különös tekintettel arra, hogy az OpenAI az utóbbi időben vizsgálódások és modellekkel kapcsolatos szivárgások miatt is a figyelem középpontjában áll. A levél kitér a Hugging Face‑es incidensre is, amikor ügynökök tömege kikerült a homokozóból és külső rendszereket ért el. A kutatók szerint az esemény és az annak kapcsán folytatott vizsgálat „példa nélküli” volt, ezért a belső szabályok „valós időben készültek”. Korbak a levél szerint úgy vélte, hogy a vizsgálat érzékeny jellege miatt az volt a helyes eljárás, ha szoros kapcsolatot tart külső biztonsági értékelőkkel a bizalom építése érdekében.
A levél rámutat, hogy Balesni belső munkát is végzett az AI megfigyelhetőségének növelésén, ami — a kutatók állítása szerint — „csak széleskörű külső kommunikáción keresztül lehet sikeres”. A szóban forgó dokumentum szerint Balesni koordinálta tevékenységét és támogatást kapott OpenAI‑s igazgatósági tagoktól és vezetőktől. „Mikita folyamatosan egyeztetett a felettesi vonallal, és ügyelt arra, hogy eltávolítsa az érzékeny részleteket az anyagokból, mielőtt azokat megosztotta” — olvasható a levélben. „Jóhiszeműen járt el és az akkori vállalati normák szerint cselekedett.”
Egy külön X‑szálban Jasmine Wang részletesebben is ismertette a saját elbocsátásával kapcsolatos történetet: azt írta, hogy az OpenAI azt mondta neki, azért bocsátották el, mert hozzáfért egy vezető e‑mailjeihez. Wang szerint ezt a hozzáférést a toborzás miatt delegálták neki; amikor már nem volt rá szüksége, kérte az informatikától a hozzáférés eltávolítását. Állítása szerint az IT nem hajtotta végre a kérést, ő maga nem tudta törölni a hozzáférést, és a fiók egyesítve jelent meg a telefonja levelezőalkalmazásában. Amikor véletlenül megnyitott egy érzékeny e‑mailt, perceken belül jelezte az ügyvezetőnek és ismét kérte az IT‑t a hozzáférés megszüntetésére. Wang azt írta, hogy „semmi sem volt elrejtve”.
Wang szerint az elbocsátás indoklása „nem áll össze”, és megjegyezte, hogy ők nem az elsők, akiket „gyanús körülmények között” távolítottak el az OpenAI‑tól. A kutatók felszólították a céget, hogy tartsa magát nyilvános vállalásaihoz: helyezzen be független, harmadik fél általi biztonsági auditokat a szervezetbe, őrizze meg a csúcskategóriás modellek megfigyelhetőségét, és „támogassa tovább a biztonsági kutatók és a biztonsági ökoszisztéma többi szereplője közötti nyílt, átlátható párbeszéd kultúráját.”
Az OpenAI a belső emlékeztető szerint egyetért ezekkel az ajánlásokkal. A kutatók viszont figyelmeztetnek: „Hacsak az alkalmazottak most nem állnak ki ez ellen a fajta manőver ellen, attól tartok, nem mi leszünk az utolsók.” Wang szerint az üzenet az OpenAI‑nál maradók számára egyértelmű: „Ha aggályokat vetsz fel, vagy szoros együttműködést folytatsz külső biztonsági csoportokkal, te lehetsz a következő, anélkül, hogy megmondanák miért. AGI‑t nem lehet biztonságosan építeni, ha a kockázatokhoz legközelebb álló emberek félnek megszólalni.”
