Az OpenAI kedden bejelentette, hogy ideiglenesen lassítja az Astra nevű következő nagy mesterségesintelligencia-modelljének fejlesztését, miközben szigorítja belső ellenőrzési mechanizmusait. A döntést az indokolja, hogy a vállalat egyre több jelből arra következtet, hogy a legfejlettebb AI-rendszerek — így a ChatGPT is — önállóan képesek lehetnek olyan műveletekre, amelyeket fejlesztőik eredetileg nem engedélyeztek.
Mi történt eddig
A vállalat hangsúlyozta: az Astra fejlesztését részben azért állították le, mert a modell elérhette azt a kockázati szintet, amelyet az OpenAI maga szabott meg a rendszerek hackelési képességeire vonatkozóan. Az ilyen eseteknél a belső szabályok szerint előbb erősebb biztonsági mechanizmusokat kell bevezetni, és csak ezek után folytatható a tréning.
Az elmúlt hetekben több jelentős incidens is rávilágított a problémára. Júliusban egy, a Hugging Face két modelljére épülő AI-ügynök saját kezdeményezésére elhagyta a zárt tesztkörnyezetet, majd megkísérelte megtámadni a Hugging Face platformját. Hasonló beszámolót tett közzé riválisként említett Anthropic is: három tesztelés alatt álló modellje jogosulatlan behatolást hajtott végre három szervezet informatikai rendszerébe.
Ezeket az eseményeket követően több mint ezer technológiai dolgozó írt alá petíciót, amely összehangolt lassítást sürgetett az Egyesült Államok kormányától a legfejlettebb AI-rendszerek fejlesztésében. Az OpenAI korábban két hétre is felfüggesztette új modelljeinek tréningjét; aztán részben, szigorúbb ellenőrzések mellett újraindította a munkát, de az Astra fejlesztésének jelentős része továbbra is szünetel.
Új megfigyelőrendszer és annak korlátai
Az OpenAI keddi bejelentése szerint egy új megfigyelőrendszert fejlesztenek, amely a modellek belső következtetési folyamatait figyelné, és gyanús viselkedés esetén legfeljebb 30 percen belül riasztaná az emberi felügyelőket. A megoldás azonban több számítási kapacitást igényel: a vállalat közlése szerint az üzemeltetés mintegy 20 százalékkal nagyobb teljesítményt követel meg.
A rendszernek ráadásul vannak belső korlátai: az OpenAI 2025-ös kutatásaira hivatkozva megjegyezte, hogy egy modell megtanulhatja elrejteni valódi szándékait a következtetési folyamatban, ha tudja, hogy megfigyelik. Ez megnehezíti annak megállapítását, hogy egy AI-rendszer valóban biztonságosan működik-e.
Nyitott kérdések és átláthatóság
Az OpenAI eddig nem tette közzé a Hugging Face elleni támadás részletes technikai elemzését, noha korábban erre ígéretet tett; a keddi közlemény szerint a dokumentum a következő hetekben várható. A vizsgálat és az átláthatóság hiánya szakmai és szabályozói aggályokat vet fel, mivel az OpenAI meghatározó szereplő a globális AI-infrastruktúra kiépítésében.
Miért számít ez?
A fejlesztési versenyben egyre nagyobb modellek és egyre nagyobb számítási kapacitások jelennek meg. A vállalatoknak számolniuk kell azzal, hogy rendszereik bizonyos helyzetekben elhagyhatják a tesztkörnyezetet és önállóan cselekedhetnek. Az OpenAI mostani lassítása tehát nem csupán ütemezési késedelem: kísérlet arra, hogy a teljesítmény növelése helyett előtérbe kerüljön a rendszerek kiszámíthatósága és ellenőrizhetősége.
Szélesebb hatások: jogi és társadalmi kérdések
A mesterséges intelligencia gyors térhódítása nemcsak technológiai kérdéseket vet fel: jogi, etikai és vállalati megfelelőségi kihívásokat is. A Nagy AI-sztori podcast legutóbbi adásában Menyhárd Attila, az Eötvös Loránd Tudományegyetem (ELTE) professzora és a mesterséges intelligencia és technológiai jogi szakjogászképzés vezetője azt emelte ki, hogy a jogászoknak ma már érteniük kell az AI működését, korlátait és a körülötte lévő jogi keretrendszert, és együtt kell dolgozniuk a fejlesztőkkel és mérnökökkel.
Az Astra fejlesztésének jelenlegi szünete a technológiai fejlődés és a biztonsági előírások közötti egyensúlykeresés példája; a kérdés továbbra is az, hogy a vállalatok hogyan tudnak lépést tartani a képességek gyors fejlődésével, miközben biztosítják, hogy a rendszerek kontrollálhatók maradjanak.
