Az OpenAI új üzemmóddal, az Ultrafasttal gyorsítja fel legújabb és legerősebb modellje, a GPT-5.6 Sol működését. A cég csütörtöki blogbejegyzése szerint az Ultrafast olyan sebességet kínál, amely jelentősen csökkenti a válaszlatenciaidőt és növeli a másodpercenként elvégzett hasznos munka mennyiségét.
Milyen gyors?
Az OpenAI állítása szerint az Ultrafast mód akár 14-szer gyorsabb lehet a standard feldolgozáshoz képest, és legfeljebb 750 output tokent képes előállítani másodpercenként. (Az "output token" itt azokat a különálló szövegegységeket jelenti, amelyeket egy nagynyelvi modell generál, amikor egy emberrel kommunikál.)
Mire javasolja az OpenAI?
A vállalat szerint az Ultrafast különösen hasznos lehet olyan alacsony késleltetést igénylő üzleti folyamatokban, mint:
- incident response (eseménykezelés),
- ügyfélszolgálat és támogatás,
- pénzügyi piacok elemzése,
- e-kereskedelem és hasonló területek.
A cég megjegyzi, hogy eddig a valós idejű sebesség eléréséhez gyakran kisebb vagy specializáltabb modellek választása volt szükséges; az Ultrafast egy más irányú előrelépést képvisel, amely „másodpercenként több hasznos munkát” tesz lehetővé.
Technológiai háttér és elérhetőség
Az Ultrafast előnézeti verzióját az OpenAI a chipgyártó Cerebras-szal folytatott együttműködésre építve indította el. Jelenleg a preview csak egy szűk ügyfélkör számára érhető el; az OpenAI azt közölte, hogy a funkcióhoz való hozzáférést fokozatosan bővíti, amint növekszik a kapacitás.
Versenytársak és kontextus
Az OpenAI versenytársai is dolgoznak gyorsított üzemmódokon: például az Anthropicnál a Claude rendelkezik fast móddal, bár az OpenAI szerint az nem éri el ugyanazt a sebességet, amit az Ultrafast kínál.
Miért számít ez?
A nagysebességű válaszadás növeli az olyan alkalmazások hatékonyságát, ahol a késleltetés kritikus. Az Ultrafast bevezetése azt jelzi, hogy a nagy modellek nemcsak méretben és képességekben versenyeznek, hanem az egyenletes, gyors feldolgozásban is, ami lehetővé teheti a szélesebb körű vállalati használatot valós idejű igények mellett.
