TypeSafe AI, amelyet egykor egy volt OpenAI-kutató alapított — az a személy, aki részt vett a ChatGPT és a megerősítéses tanulásos finomhangolás (RLHF) fejlesztésében — szeptember 15-én tette minden felhasználó számára elérhetővé Jev nevű modelljét. A megnyitás gyorsan felkapottá vált X-en (korábbi Twitter), és rövid időre az API terhelése miatt kiesést okozott.
Mit tud Jev? Hogyan működik?
TypeSafe AI saját leírása szerint Jev nem úgy működik, mint a hagyományos, folyamatos szövegírásra optimalizált generatív modellek. Míg a GPT-szerű modellek a következő token előrejelzésére és az összefüggések kifejtésére vannak hangolva, Jev arra van tervezve, hogy a felhasználó által definiált válaszopciók közül kiválassza a legmegbízhatóbb lehetőséget. A cég ezt a megközelítést RLCD-nek nevezi. A szolgáltatás bemeneti díja 0,042 USD per millió token.
Piaci visszhang és teljesítmény
TypeSafe AI bejelentése után a modellre épülő megoldásokat gyorsan elkezdték tesztelni éles környezetekben. A Vercel például lecserélte OpenAI Luna modelljét Jevre egy biztonsági osztályozóban, és szerintük Jev:
- 5–18-szor gyorsabb,
- pontosabb,
- és olcsóbb volt, mint Luna ugyanabban az alkalmazásban.
Egy másik összehasonlító vizsgálat viszont azt találta, hogy Google Gemini kismértékben jobb pontosságot ért el, de hozzávetőleg tízszeres költségen.
Miért számít ez (és mi nem)?
A gyakorlatban a piac mostani irányai szerint nem feltétlenül a „legújabb áttörés” nyer: a tapasztalat azt mutatja, hogy a kellően jó képesség alacsonyabb áron gyakran elég a bevezetéshez és elfogadáshoz. Ugyanakkor a Jev korlátai is világosak:
- Nem tud érdemben túllépni azon a kereten, amelyben a kérdést megfogalmazzák; csak a definiált opciók közül választ.
- Elsősorban rögzített mérnöki SOP-okhoz illik; nem helyettesíti a tágabb, nyitott végű gondolkodást.
- Hajlamos magabiztosan téves válaszokat adni, ha nincs megfelelő opció vagy ha a keret hibás.
Ennek ellenére a piaci kereslet gyorsan finanszírozza azokat a modelleket, amelyek alacsonyabb költséggel megfelelő teljesítményt nyújtanak.
Következtetés
Jev piaci fogadtatása gyors volt és jelentős – röviden túlterhelte az API-t és bizonyítottan vonzó költség-hatékonyságban bizonyos feladatokban. Azonban hogy valódi képességbeli áttörésről van-e szó, továbbra is vita tárgya: a modell erősségei elsősorban az árban és sebességben mutatkoznak meg, míg a korlátok a kerethez kötöttségből és a magabiztos hibázásból erednek.
