A második éves AIE CODE konferencia "System One" napján Google vezetők — köztük Sundar Pichai és Logan Kilpatrick — bemutatták a Gemini Decision 1-et, egy döntéshozatalra szánt, kalibrált multimodális modellt és a mögötte lévő Decisions API-t. A bejelentés szerint a modell célja a zárt választási feladatok egyetlen átmenettel történő értékelése, nem szöveg-generálás tokenenként.
Mire képes a modell?
- Bemenetek: támogatja a szöveget, képeket, hangot, videót és PDF-et.
- Kérdésszám: egy kérésben legfeljebb 1,000 kérdést tud feldolgozni.
- Választípusok: igen/nem, többválasztós (akár 255 opcióval) és rubrikapontozás.
- Kontextusméret: 256K kontextust írnak a specifikációban.
- Válaszidő: Google és külső mérések szerint az end‑to‑end válaszidő nagyjából 150–250 ms, a bejelentésben ~200 ms szerepel.
- Bizonyosság: minden válasz mellé konfidencia értéket ad vissza.
Árazás: a bejelentés alapján a bemeneti tokenek díja 0,10 USD per 1 millió input token; a kimenetért 0 USD-t számolnak fel. Sundar Pichai szerint ez körülbelül ötször olcsóbb, mint a Flash‑Lite.
Fejlesztés és kiadás
A Google közlése szerint a projekt DeepMind belső prototípusából indult, és egy kis csapat mintegy hat héten belül szállította le a modellt és az API‑t. A döntésmodell és az API termelési bevezetésében megelőzte az Anthropic hasonló célú megoldását.
Teljesítmény és benchmarkok
Google belső összehasonlításai azt mutatják, hogy a Decision 1 ötből öt közös benchmarkon jobb teljesítményt ért el a TypeSafe Jev 1.14‑nél az általuk közölt adatok szerint; például a JevBench‑en 92.2% vs 90.0% szerepel. Ugyanakkor független elemzések, például az Artificial Analysis mérései vegyesebb eredményeket adnak.
A Decision Indexen a Decision 1 66 pontot kapott, amivel holtversenyben áll az Elephant 9B‑vel és a Jev 1.14‑gyel; 7 ponttal elmarad a Drex Max v1.1‑től és a GLiDE v1.2‑től.
Erősségek és gyengeségek: jól teljesít bizonyos döntésfeladatokban (például AA‑Omniscience‑Decision 66, HLE‑MultiChoice 49), de például az AA‑Paperclip mérésen csak a dokumentumok 33%-án ad helyes választ mindegyik kérdésre, míg a Drex Max 63%-ot ér el.
Költség és latencia összevetése: Artificial Analysis adatai szerint a Decision 1 költsége feladatonként magasnak tűnik — 345 USD per 1M feladatra eső költség, szemben a Drex Max 103 USD‑jával és a Jev 156 USD‑jával. A Brier‑pontszáma 0,18. Átlagos idő feladatonként ~211 ms, ami lassabb, mint a Jev 92 ms‑os mérése.
Korai felhasználók és ökoszisztéma
- Stitch: egy gyors tervezési kísérletben a Gemini Decisions API alapján durva promptból többképernyős termékfolyammá jutottak megközelítőleg 5 másodperc alatt.
- LangChain: nap‑egy támogatást adott ki, megosztott bázisosztállyal a TypeSafe osztályozókkal.
Az eseményen és a kapcsolódó bemutatókon a hibrid ügynökarchitektúrák is felmerültek: Cloudflare például egy dizájnt mutatott, ahol gyors döntésmodellek végzik az eszközválasztást és logkivonatolást, míg egy nagyobb érvelő modell csak a diagnózist végzi — ez a bemutató szerint hat LLM‑hívást egyre és ~40K tokent 1.8K‑ra csökkentett.
Miért számít ez?
A Gemini Decision 1 bemutatása jele annak, hogy a nagy felhőszolgáltatók a döntési (classification) modellekre is szeretnék kiterjeszteni a termelési kínálatot: a single‑pass döntési paradigma alacsonyabb költséget és rövidebb válaszidőt ígér bizonyos alkalmazásoknál (például eszközválasztás, többválasztós feladatok, rubrikapontozás). Ugyanakkor a független értékelések és a költség/latencia mutatók arra figyelmeztetnek, hogy a gyakorlati előnyök felhasználási esettől függően eltérőek lehetnek.
Az AIE CODE System One napján bemutatott többi újdonság — Cloudflare modellek, Open‑source és frontvonal modellek, valamint DeepMind/Google kutatási eredmények a verifikáció és biotudomány területén — mind azt mutatják, hogy a döntési modellek és az agent‑orientált architektúrák egyre fontosabb szerepet kapnak az iparágban.
Főbb számok és tények (összefoglalva)
- Modell: Gemini Decision 1 (Google).
- Bemenetek: szöveg, kép, hang, videó, PDF.
- Egy kérésben kezelhető kérdések: up to 1,000.
- Kontextus: 256K.
- End‑to‑end válaszidő: ~150–250 ms (bejelentésben ~200 ms).
- Árazás: 0,10 USD / 1M input token; kimenetért 0 USD.
- Fejlesztési eredet: belső Google DeepMind prototípus; kis csapat, ~6 hét a szállításig.
- Független benchmarkok: kevert eredmények; Decision Index = 66.
Kapcsolódó megjegyzés
A bejelentés fontos előrelépés a termelési döntésmodellek piacán, de a független értékelések, a költség‑ és latenciaadatok, valamint a konkrét alkalmazási igények ismerete szükséges ahhoz, hogy a vállalatok eldöntsék, mikor és hogyan érdemes a Gemini Decision 1‑et beépíteni rendszereikbe.
