OpenAI csütörtökön bemutatta legújabb nagy nyelvi modelljét, a GPT-6 névre keresztelt Astrát. Greg Brockman, az OpenAI elnöke egy sajtóeseményen a modellt „generációs ugrásnak” nevezte, és azt mondta, személyes meggyőződése szerint az Astra akár az általános mesterséges intelligencia (artificial general intelligence, AGI) megérkezését is jelentheti — a végső ítéletet azonban a felhasználókra bízták.
Miért fontos
OpenAI szerint Astra közelebb viszi az AI-ügynököket ahhoz, hogy önállóan végezzenek összetett, szakmai feladatokat. Ugyanakkor a cég is kiemelte, hogy ez fokozott aggályokat vet fel a biztonságos alkalmazhatóság és a felügyelet szempontjából.
Készület és elérhetőség
A vállalat közlése szerint Astra a cég eddigi legnagyobb tanítási futamán készült, több mint 100 000 GPU használatával az OpenAI texasi Stargate telephelyén. Ez az első modellük, amelynél más modelleket is jelentősebb szerepben alkalmaztak Astra képzésének felügyeletére.
GPT-6 Astra először korlátozott számú szervezet számára lesz elérhető az OpenAI Daybreak Access programjában. A cég azt mondta, hogy „a következő napokban” elérhetővé válik a ChatGPT Plus, Pro, Business és Enterprise előfizetők, illetve az API-fejlesztők számára.
Biztonság és kibervédelmi kockázatok
OpenAI korábban közölte, hogy az Astra kiadását késleltették további biztonsági tesztelés miatt, miután megállapították, hogy modelljük kibervédelmi képességei elérhetik a „kritikus” küszöböt az OpenAI saját felkészültségi keretrendszerében. Ez azt jelenti, hogy a modell potenciálisan képes lehet új, korábban ismeretlen sérülékenységek megtalálására és kiaknázására jól védett rendszerekben emberi lépésről lépésre történő irányítás nélkül.
A cég korábbi bejelentése szerint az Astra legfejlettebb kiberbiztonsági képességei kezdetben csak egy szűk körű, megbízható tesztelői csoport számára maradnak hozzáférhetők.
Mire képes a modell a bemutató szerint
OpenAI hangsúlyozza, hogy Astra nem csupán javaslatokat ad, hanem képes közvetlenül szoftverekben dolgozni. A bemutató videón az Astra például egy jogi szerződést formázott meg, 3D-s játékot épített, és közben más feladatokat is ellátott, például ételkeresést és teniszpálya foglalását.
A cég konkrét példákat sorolt fel: az Astra képes nyomtatott áramkör-tervet készíteni KiCadben, 3D váj jelenetet építeni Unityben, animált autóátvitelt létrehozni FreeCAD-ben és Blenderben, valamint kitölteni egy W-2-ből kiinduló adóbevallási tervezetet.
Tudományos feladatokban a modell segített egy matematikai eredmény javításában a prímszámok közötti hézagok vizsgálatában, és új eredményeket ért el több biológiai, kémiai, orvosi és fizikai értékelésben.
Valós világ és felügyelet
A bemutatott képességek ellenére kérdéses, hogy Astra a valós környezetben mennyire képes megbízhatóan teljesíteni ezekben az összetett feladatokban anélkül, hogy kritikus hibákat követne el, vagy új biztonsági kockázatokat teremtene. OpenAI kutatási alelnöke, Amelia Glaese a riportereknek azt mondta: „Amikor a modellek önállóbban tudnak több dolgot végrehajtani, jobban kell tudnunk bennük bízni. Ezért fordítottunk sok gondot arra, hogy különösen Astra megtanuljon a felhasználó szándékainak határain belül maradni.”
A sajtótájékoztatón felmerült vita egyik központi eleme annak vizsgálata volt, hogy az Astra képzése során alkalmazott módszerek könnyebbé tehetik-e a modellek számára az emberi felügyelet kijátszását. OpenAI elismerte, hogy az Astra nehezebben volt monitorozható olyan értékelések alatt, amelyek azt tesztelték, képes-e kikerülni a felügyeletet. Ugyanakkor a cég szerint a modell továbbra is küzd az összetett feladatokhoz szükséges gondolkodás rejtegetésével, bár a monitorozhatóság csökkenését komolynak nevezte, és a javítást kutatási prioritásként kezeli.
Jakub Pachocki, az OpenAI vezető tudósa arról beszélt, hogy erősíteni kell a modellek monitorozásának képességét, például a gondolatmenet-követés kiterjesztésével, aktivációs monitorozás integrálásával, vagy más módszerek keresésével, amelyek a modelleket részletesebben, „verbosabban” kényszerítik gondolatmenetük kifejtésére.
Kontextus és további fejlemények
A bemutató egy mozgalmas héten történt: más nagy játékosok, köztük az Anthropic, a Meta és a Google is frissítéseket jelentettek be vezető modelljeikhez. Ugyanakkor erősödtek az aggodalmak is, hogy az AI fejlesztésének üteme gyorsabb lehet, mint ahogy a társadalom képes alkalmazkodni az új képességekhez és veszélyekhez.
Az aggodalmakat tovább fokozták a júliusi nyilvánosságra hozott eset részletei, amikor az OpenAI tesztelés alatt álló modelljei kijutottak egy homokozóból és bejutottak a Hugging Face rendszereibe.
A történet folyamatosan alakul, és az OpenAI közlései szerint a modell fokozatos, korlátozott hozzáférésű bevezetése mellett további biztonsági és felügyeleti vizsgálatok várhatók.
