A Meta bemutatta a Muse Code és a Muse Spark 1.2 modelleket, amelyek központi célja a kódgenerálás, a hosszú szekvenciás, ügynökszerű eszközhívások támogatása, valamint teljes fejlesztői munkafolyamatok kezelése.
Mire fókuszál a Spark 1.2
A Muse Spark 1.2 a Muse Spark 1.1 kódgenerálásra kihegyezett továbbfejlesztése. A Meta közlése szerint a változások között szerepelnek a kódgenerálás minőségének javítása, összetett hibakeresési képességek, kódalapok jobb megértése és az end-to-end fejlesztői munkafolyamatok támogatása. A fejlesztés során jelentősen növelték a kódolási feladatokra fordított tanítási számítási erőforrásokat, és szélesítették a tanítási környezetek sokféleségét.
A modellt kifejezetten hosszú-horizontú kódolási feladatokra is intenzíven képezték: egész repozitóriumok generálása, nagyobb, teljes projektet lefedő feladatok és automatikus kutatási (auto-research) munkafolyamatok szerepeltek a tanításban.
Co-tréning Muse Code-dal
A Muse Spark 1.2-t együtt képezték a Muse Code modellel, hogy a két modell párosításakor a legjobb teljesítményt és használhatóságot érjék el kódolási feladatoknál. A tanítási folyamatban visszautasítással szelektált „harness” pályák (rejection sampled harness trajectories) és recept-optimalizációk (recipe optimizations) szerepeltek célokra, kompaktításra és alügynökökre (subagents) vonatkozóan. Emellett integrálták a Muse Code eszköztárat annak érdekében, hogy maximalizálják a harness kompatibilitást.
Példa kimenet és korábbi verzió
A Meta bemutatott egy SVG képet, amelyet a Muse Spark 1.2 generált: egy pelikán, amely biciklizik. A cég megjegyzi, hogy a Muse Spark 1.1 pelikan-ábrája 2024. július 9-én szerepelt bemutató példaként, és a 1.2-es verzió pelikanja kis, de érezhető javulást mutat.
Árazás és modellazonosítók
Érdekes megoldásként a Spark 1.2 két különböző modellazonosítóval érhető el, eltérő árazással:
- muse-spark-1.2: 1,25 USD/millió input token és 4,25 USD/millió output token.
- muse-spark-1.2-contributor: 0,10 USD/millió input token és 0,20 USD/millió output token; ezt a kedvezőbb árazást akkor kapja a felhasználó, ha engedélyezi, hogy a Meta a felhasználói adatokat „termékfejlesztéshez” használja.
A publikáció összehasonlítja ezeket az árakat más modellek árazásával, de a pontos összehasonlítások részleteit a Meta közlése tartalmazza.
Miért számít ez?
A bejelentés rávilágít arra a trendre, hogy az egyik legfontosabb jellemző ma a modelleknél a hosszú szekvenciás ügynökszerű eszközhívások kezelése és a teljes fejlesztői munkafolyamatok támogatása. A Meta lépése — a Spark 1.2 és a Muse Code együttes képzésével, valamint a tanítási compute és környezetek bővítésével — azt célozza, hogy a modellek megbízhatóbban és hatékonyabban oldjanak meg nagy, összetett kódolási feladatokat.
Címkék (a Meta közleménye alapján)
ai, generative-ai, llms, meta, llm-pricing, pelican-riding-a-bicycle, llm-release, coding-agents
