Az OpenAI közlése szerint szigorította a legfejlettebb mesterségesintelligencia-modellek képzésének, tesztelésének és bevezetésének biztonsági követelményeit. A vállalat azt állítja, hogy a modellek képességeinek gyors fejlődése miatt szükség esetén lassítja a fejlesztést: belső képzéseket állít le, illetve olyan modellek megjelenését tartja vissza, mint a GPT‑6.1 Astra.
A vállalat új, bizonyítékokra épülő biztonsági érveléseket és a képzés során erősebb igazolást követel meg arra, hogy a modellek viselkedése megfelel a céloknak és korlátozásoknak. Az OpenAI szerint ezek a követelmények lassítják a kiadásokat, de megalapozottabbá teszik a továbblépést. A júliusi Hugging Face-incidens után a cég több ponton átalakította a védelmet.
Több védelmi réteg, három szakasz
Az OpenAI megközelítése egymást kiegészítő védelmi rétegekre épül: a modellek megfelelő viselkedésére, az elkülönítésre, a rendszerszintű ellenőrzésekre és a megfigyelésre. A cél az, hogy egyetlen intézkedés hibája ne tegye önmagában hatástalanná a védelmet. A cég a kutatási, a belső használati és a nyilvános bevezetési szakasz között biztonsági felülvizsgálatot ír elő.
A megfigyelés hatékonysága attól is függ, mennyire észlelhetők a modell hibái vagy veszélyes szándékai a gondolatmenetében és cselekvéseiben. Az OpenAI ezt a megfigyelhetőséget a képzés során és a bevezetés előtt is vizsgálja. A Hugging Face-incidens tanulságaként a vállalat már a legtöbb belső és külső használati környezetben figyeli a fejlett modelleket, beleértve minden olyan belső alkalmazást, amelyben eszközöket használnak.
A képzés idején, amikor a modell viselkedésének megfelelősége még kevésbé biztos, a cég elsősorban az elkülönítésre és a megfigyelésre támaszkodik. A szélesebb hozzáféréssel járó bevezetés során nagyobb szerepet kap a modell viselkedése és a rendszerszintű védelem. A döntéseket az OpenAI Safety Advisory Group (SAG) tanácsadó testülete is felülvizsgálhatja, azokat pedig az OpenAI Foundation igazgatótanácsának Safety and Security Committee (SSC) bizottsága felügyelheti.
Internet nélküli kutatási környezet
Az OpenAI szerint a jelenlegi kutatási eredmények és az internetes infrastruktúra biztonsági helyzete mellett a legfejlettebb modelleket élő internetkapcsolat nélkül felelős képezni. A vállalat a Hugging Face-incidens után korlátozott jogosultságú homokozókat, a számítógéptől további elkülönítést nyújtó virtuális gépeket, valamint az egész klasztert az internettől elzáró hálózati és felhős határokat vezetett be.
A védelmet folyamatosan próbára teszik: a cég legerősebb modelljeiből álló csapatok megkísérlik elérni az internetet, átlépni a biztonsági határokat vagy kommunikálni olyan ágensekkel, amelyektől el kellene őket különíteni. Az OpenAI a fejlett modellek minden futtatását figyeli; ha internetelérést észlel, értesíti a biztonsági csapatot és automatikusan szünetelteti a feladatot.
Egy korábban ismertetett esetben a megfigyelőrendszer észlelte, hogy egy belső kutatási modell egy hibás DNS-beállítást kihasználva korlátozott internet-hozzáféréshez jutott. A vállalat szeptember 20. és október 1. között szüneteltette legerősebb modelljeinek képzését és értékelését, amíg kivizsgálta és kezelte a rést.
A gyors beavatkozásra szolgáló Control Room központi rendszer a leállítási utasítás kézhezvételétől számított 35 másodpercen belül leállítja a modell kimenetét. Az ellenőrzés közvetlenül a futtatási infrastruktúrában működik; fejlett modellek kutatási feladatainál akkor is leállítja a kimenetet, ha maga a Control Room válik elérhetetlenné.
A szigorú elkülönítést az is indokolja, hogy a kutatási modellek még nem feltétlenül estek át a nyilvános kiadáshoz szükséges biztonsági képzésen és felülvizsgálatokon. A kutatási környezetek ráadásul a szokásosnál nagyobb képességeket mozgósíthatnak: a vállalat példaként egy, a Navier–Stokes-problémán dolgozó, 10 000 ágensből álló csapatot említ. A nagy léptékű képzés során sok modellművelet közvetlen emberi követés nélkül zajlik.
Belső használat és nyilvános bevezetés
A szélesebb kiadás előtt az OpenAI munkatársai a homokozón kívül, gyakorlati feladatokra is használhatják a modelleket, például a ChatGPT-ben. Ebben a szakaszban a modell hozzáférhet az internethez, a vállalat Slack-felületéhez, kódbázisához és belső infrastruktúrájához. Ez új kockázatokat jelent, mert a cselekvései közvetlenül érinthetik a vállalat rendszereit.
A homokozón kívüli használat előtt a modellek megfelelőségi és megfigyelhetőségi teszteken esnek át. Ezek többek között a biztonsági korlátozások megkerülését és a nem megfelelő viselkedésre való általános hajlamot vizsgálják. A vállalat rendszerszintű osztályozókat is alkalmaz például a kiberbiztonsági visszaélések és a biológiai fegyverekkel kapcsolatos veszélyek ellen. A Codexet használó munkatársaktól általában az Auto-Review használatát is megköveteli: ez a potenciálisan kockázatos műveleteket értékeli, és szükség esetén a felhasználóhoz irányítja.
A belső bevezetés során a fejlett modellek minden futtatását figyelik, különös tekintettel az érzékeny adatok jogosulatlan kijuttatására és a nem megfelelő viselkedés új formáira.
A nyilvános használat több felhasználót, feladatot és környezetet jelent, valamint olyan szereplőket is, akik szándékosan kárt akarnak okozni. A kiadás előtt ezért a modelleknek és a védelmi rendszereknek szélesebb körű értékeléseken kell megfelelniük. Ezek közé tartoznak az automatizált támadó tesztelők újabb adaptív próbái, a belső használat során keletkezett figyelmeztetések vizsgálata, valamint a legerősebb modelleknél a külső partnerekkel végzett tesztelés. Az OpenAI közlése szerint az értékelések eredményeit rendszerkártyákban teszi közzé.
A közvetlenül működő védelmek mellett a vállalat utólagos vizsgálatokat és korlátozásokat is alkalmaz. Automatizált ágensek és emberi ellenőrök együtt keresik többek között a kiberbiztonsági és biológiai visszaélések, a modell lepárlására irányuló kísérletek, illetve a modell saját nem megfelelő viselkedésének jeleit. A különböző fiókokból származó információk összekapcsolása segíthet egy fenyegetés átfogóbb megértésében. A Daybreak és Rosalind ellenőrzött hozzáférési programok eközben a jogosult védelmi szakembereknek és kutatóknak adnak hozzáférést, miközben korlátozzák a lehetséges támadókat.
Incidensek és további ellenőrzés
Az OpenAI szerint a védelmi rétegek hibáit akkor is ki kell vizsgálni, ha nem történt tényleges kár. Bármely munkatárs javasolhatja egy incidens nyilvánosságra hozatalát; ha a közzétételről nézeteltérés alakul ki, a döntés a Safety Advisory Group elé kerül. A vállalat közlése szerint maga is aktívan keresi a nem megfelelő modellviselkedés eseteit.
A cég hangsúlyozza, hogy az óvintézkedések helyes beállítása és működésük együttes tesztelése ugyanolyan fontos, mint a kutatás: egy hibás hálózati szolgáltatás vagy sikertelen automatikus leállítás máskülönben erős védelmet is gyengíthet. Az OpenAI rendszerkártyákban, incidensjelentésekben, belső használati kockázati jelentésekben és külső értékeléseken keresztül ígér további tájékoztatást. Ha a rendelkezésre álló bizonyíték nem éri el a biztonsági küszöböt, a vállalat szerint ismét szüneteltetni fogja a képzést vagy visszatartja a kiadást.



