OpenAI ma bejelentette a Decisions API általános elérhetőségét; az új szolgáltatás a GPT‑6 Luna modell intelligenciáját olyan kérdésekre fókuszálja, amelyekre előre meghatározott, véges válaszok adhatók. A cég hangsúlyozza, hogy a Decisions API közel valós idejű döntéshozatalt tesz lehetővé szöveg, képek és strukturált JSON bemenetek alapján, és egyes esetekben akár tízszer gyorsabb, mint a GPT‑6 Luna Responses API-n keresztüli használata.
Mire jó a Decisions API?
A Decisions API célja, hogy az alkalmazások és ágensek sok apró, ismétlődő döntését gyorsan és olcsón hozzák meg – például bemeneti osztályozások, kérések irányítása, vagy a következő lépés kiválasztása munkafolyamatokban. A fejlesztők definiálnak egy kérdést és annak megengedett válaszait, majd megadják a kontextust szövegként, képként vagy natív JSON-ként. A válasz három támogatott típusának egyikét adja vissza: probability (valószínűség), choice (választás) vagy score (pontszám), amelyeket az alkalmazás további logikája használhat a következő lépés meghatározásához.
- probability: 0 és 1 közötti becslés arra, hogy a feltétel igaz.
- choice: a fejlesztő által megadott értékek közül egy választás; a válasz további valószínűségi és bizonyossági adatokat is tartalmaz.
- score: a szintek indexeinek valószínűségi súlyozott átlaga, például egy súlyossági skála értékelésénél.
Újdonságok a publikus béta óta
A béta időszak óta az OpenAI több újítást tett elérhetővé:
- natív integráció a GPT‑Live szolgáltatással, amely lehetővé teszi, hogy élő beszélgetésekben is gyors döntések szülessenek (például támogatói beszélgetésnél kérdés feltevése, kérés irányítása vagy eszkalálás),
- prompt caching a gyakran újrahasznált kontextusokhoz,
- inference residency (feldolgozás regionális elhelyezése) az Egyesült Államokban és az Európai Unióban,
- natív JSON bemenetek kezelése és képek beágyazása a kérdésekhez,
- kérdésszám növelése: mostantól egy kérésben akár 400 kérdés is megadható, ami a korábbi limit kétszerese,
- tovább javított késleltetés és további kapacitás növelés több ázsiai régióban.
Korai alkalmazási példák
OpenAI belső csapatai már többféle munkafolyamatban használják a Decisions API-t: a Dots csapat a válaszidők csökkentésére és az interaktivitás javítására támaszkodik, a Personal Finance csapat tranzakcióleírások kategorizálására használja, míg a Communications csapat témák szerinti osztályozásra és arra, hogy egy adott tartalom erősíti-e vagy kérdőjelezi-e meg a kulcsfontosságú narratívákat, így könnyebb kiszűrni a közelebbi vizsgálatot igénylő eseteket.
Ügyfelek is széles körben alkalmazzák az API-t: például AI-költségek pontos hozzárendelésére vagy nyelvtanulási élmények interaktívabbá tételére.
Élő hangalapú integrációk
A GPT‑Live integráción keresztül a Decisions API lehetővé teszi, hogy hangalapú alkalmazásokban természetes, megszakításkezelő beszélgetések közben hozzanak döntéseket. Például egy ügyfélszolgálati rendszer eldöntheti, kérdezzen-e pontosítást, továbbítsa-e a kérést, vagy emelje-e a problémát; egy avatar pedig a felhasználó beszéde alapján választott arckifejezéssel reagálhat a magasabb interaktivitás érdekében.
Műszaki használat és árképzés
A Decisions API használata egyszerű: a fejlesztő definiálja a kérdést és a lehetséges válaszokat, majd példákon teszteli. A szolgáltatás maantól általánosan elérhető a dedikált Decisions végponton GPT‑6 Luna modellel.
Árazás (forrásinformáció a bejelentés szerint):
- Decisions API bemeneti tokenenként $0.10 / millió token,
- cache-elt bemenetek: $0.01 / millió token (további részletek a 30 perces és 12 órás cache-idők árairól a dokumentációban találhatók),
- csak a bemeneti tokenekért kell fizetni — nincs kimeneti token díj.
Regionális feldolgozás elérhető az Egyesült Államokban és az EU-ban, és jogosult ügyfelek számára elérhető a Zero Data Retention opció.
Ajánlás fejlesztőknek
OpenAI javaslata szerint érdemes egy gyakran ismételt döntéssel kezdeni: határozzuk meg a kérdést, a lehetséges válaszokat, valamint a megkülönböztetéshez szükséges kontextust, majd teszteljük valós példákon a Decisions Playgroundban vagy a fejlesztői útmutató alapján.
A Decisions API tehát a gyors, strukturált döntéshozatalra összpontosít, alacsonyabb költséggel és rövidebb késleltetéssel, különösen olyan alkalmazások számára, ahol számos kis döntés határozza meg a felhasználói élményt vagy a belső munkafolyamatok hatékonyságát.
