Modellbevezetés

Mesterséges intelligenciával generált szöveg

Liquid AI bemutatja az LFM2.5-2.6B modellt: agenti képességek helyi eszközökön Raspberry Pi-től a szerverekig

A főszereplő a Liquid AI startup, amely 2023-ban alakult volt MIT számítástechnikusok részvételével, és bemutatta az LFM2.5-2.6B nyílt súlyú nyelvi modellt, amelyet kifejezetten agenti feladatokra terveztek.

Liquid AI bemutatja az LFM2.5-2.6B modellt: agenti képességek helyi eszközökön Raspberry Pi-től a szerverekig

A Liquid, a 2023-ban alakult AI startup, amelyet korábbi MIT-számítástudományi kutatók alapítottak, bemutatta az LFM2.5-2.6B modellt — egy 2,6 milliárd paraméteres, nyílt súlyú nyelvi modellt, amelyet kifejezetten agenti (ügynöki) munkaterhelésekre terveztek. A kiadással kapcsolatos anyagok és egy VentureBeat-interjú szerint a modell képes teljesen helyi hardveren futni — okostelefontól és laptopon át egészen Raspberry Pi-ig — felhő alapú inferencia vagy GPU-k nélkül. Ez lehetővé teszi az edge AI alkalmazásokat és alternatívát kínál szabályozott iparágak vagy érzékeny adatokkal dolgozó vállalatok számára, amelyek nem akarják az információt a felhőbe küldeni.

Mire alkalmas a modell?

Liquid szerint az LFM2.5-2.6B különösen alkalmas nagy volumenű, jól definiált agenti feladatokra, amelyek lokálisan futnak: eszközhívásra (tool calling), dokumentumkezelésre, naptár- és munkafolyamat-automatizálásra, valamint folyamatos háttérfeladatokra. Használható csatlakozási korlátokkal bíró környezetekben is, például járművekben vagy robotikában. A fejlesztők ugyanakkor megjegyzik, hogy kódolás-intenzív munkára nagyobb modellek jobbak lehetnek.

A modell és egy fejlesztőknek szánt alap checkpoint, LFM2.5-2.6B-Base, már elérhető a Hugging Face-en. A modell nap-1 támogatást kapott nagyobb inferencia stackekhez, többek között a llama.cpp, MLX, vLLM, SGLang és ONNX rendszerekhez, így telepíthető fogyasztói hardveren, vállalati infrastruktúrában és beágyazott rendszerekben. Liquid emellett nyílt forrású finomhangolási keretrendszert is kínál, LEAP néven.

Technikai alapok és teljesítmény

Az LFM2.5-2.6B 2,6 milliárd paraméterrel rendelkezik, 128 000 tokenes kontextusablakot támogat, és natív eszközhívást tartalmaz. A modell neve a generációs számból (2.5) és a paraméterek számából (2.6B) adódik.

A vállalat cégjegyzéke alapján mért sebességadatok szerint a dekódolási átviteli sebesség megközelítőleg 220 token/másodperc Apple M5 Max-on és 113 token/másodperc AMD Ryzen AI Max+ 395-ön, miközben a memóriafelhasználás kevesebb, mint 2,5 GB. Okostelefonon körülbelül 30 token/másodperc teljesítményt jeleznek. A mobil kipróbáláshoz Liquid AI Apollo nevű mobilalkalmazása használható.

Nagyobb hardveren, egyetlen Nvidia H100 GPU alatt a cég szerint a modell megközelíti a 15 000 output token/másodpercet tartós, párhuzamos terhelés mellett — nagyjából 1,3 milliárd token/nap egy kártyán. Ezek a számok gyártói benchmarkok, és nem függetlenül lettek ellenőrizve.

Liquid szándékosan a valós CPU-teljesítményre optimalizálta az LFM2 architektúrát: Maxime Labonne, Liquid AI post-training vezetője azt mondta, hogy a modell „nagyon, nagyon jól” fut CPU-kon, és jó példaként említette a Raspberry Pi-t, ahol több demó szerint gyors működés tapasztalható.

Képzés agenti használatra

Liquid hangsúlyozza, hogy az LFM2.5-2.6B-t azzal a feltételezéssel fejlesztették, hogy a nyelvi modelleket egyre inkább agent keretrendszerek használják, nem pedig hagyományos csevegőfelületek. A modell előképzése körülbelül 34 billió tokenen történt, a szókészletet pedig 128K-ra növelték a nem latin írások jobb támogatása érdekében. Külön középfázist alkalmaztak a 128K tokenes kontextusablak kifejlesztéséhez, hogy hosszú ideig futó agent munkafolyamatokat támogassanak.

A post-training négyfázisú: felügyelt finomhangolás, teacher specialization (domain-specifikus szakértőmodellek képzése instrukciókövetésre, matematikára, kódra és eszközhasználatra), multi-domain on-policy distillation (MOPD) ezek egyesítésére egyetlen „student” modellbe, és végül agenti megerősítéses tanulás. Az utolsó szakaszban a modellt közvetlenül valós agent keretrendszerekben — például Hermes Agent és OpenClaw — képezték, valós produktivitási feladatokkal, eszközök és interakciós mintázatok használatával.

Labonne elmondta, hogy ezzel a pipeline-átalakítással a modell teljesítménye más területeken is javult: jobb lett matematikában, instrukciókövetésben és kódolásban is.

A harness és a modell együttes tervezése

Liquid saját agent harness-t is fejlesztett a meglévő keretrendszerek mellett, és bemutatták, hogy a modell ilyen harness-szel telefonon futva képes terveket készíteni és eszközöket hívni teljesen eszközön belül. Két oka volt ennek: szükségesség (nem létezett natív telefonos harness) és az interakciós modell megváltoztatása. A cég proaktív, háttérben futó ügynököket céloz — például naptárat figyelő, kontextus alapján önállóan feladatokat végrehajtó asszisztenseket.

A co-design lehetővé teszi, hogy a szoftver kompenzálja a modell gyengeségeit: "mindent, amiben a modell gyenge, a harness-nek segítenie kell" — mondta Labonne. A modell azonban kompatibilis meglévő harness-ekkel is, többek között Hermes Agent, OpenClaw és Pi rendszerekkel, és bármely OpenAI-kompatibilis végpont mögött szolgálható.

Vállalati telepítés és finomhangolás

Labonne szerint az új kiadás megváltoztatja a kis modellek felhasználási körét vállalati környezetben: eddig a helyi modellek főként szűken finomhangolt specialistaként voltak gazdaságosak. Az agenti képesség viszont lehetővé teszi ugyanannak a modellnek a többszörös újrafelhasználását az eszközök (harness, toolok) cseréjével, ahelyett, hogy a modellt kellene megváltoztatni.

A cég javasolja, hogy éles használatnál ahol lehetséges, finomhangoljanak: ha jól finomhangolják, a modell teljesítménye összehasonlítható lehet olyan nagy szolgáltatók modelljeivel, mint a GPT vagy Claude bizonyos feladatoknál. Ugyanakkor Labonne hozzátette, hogy a finomhangolás ma már alacsony belépési küszöbű és hozzáférhető.

Összehasonlítás más kis modellekkel és benchmarkok

Liquid saját összehasonlító táblázatot tett közzé, amelyben az LFM2.5-2.6B-t a vállalati edge-telepítésekre esélyes modellekkel vetették össze: Google Gemma 4 E2B (5,1B) és E4B (8B), valamint Alibaba Qwen3.5-4B (4,7B) és Qwen3.5-9B (9,7B). Egy külön teszt szerint a Local AI kliensplatform, Atomic Chat méréseiben az LFM2.5-2.6B három feladat elvégzéséhez (például időjárás és helyi idő ellenőrzése, költségvetés átváltása, hotelek ellenőrzése és foglalás) 35 eszközhívást hajtott végre, és ez 3,7-szer gyorsabb volt, mint a DeepSeek-V4-Flash (284B paraméter).

A LFM2.5-2.6B text-only, dense megközelítést alkalmaz, míg a Gemma és Qwen családok multimodális, különböző technikákat használva (például Gemma Per-Layer Embeddings, Qwen nagyobb modelleknél kiterjedt RL). Liquid külön látás- és audiovariánsokat szállít az LFM családból ahelyett, hogy minden funkciót egy checkpointba integrálna.

A cég publikált számok szerint a kicsi LFM modell vezet minden instrukciókövetési benchmarkon (IFBench, Multi-IF, IFStruct) és majdnem minden eszközhasználati benchmarkon: például ToolSandboxon 77,83 pontot ért el a Qwen3.5-9B 76,44 pontjával szemben. Agentic értékelésekben felülmúlja a Gemma modelleket és nagyjából pariban van a Qwenekkel. Néhány területen, mint a matematika (AIME25) és kódolás (LiveCodeBench), a Qwen nagyobb modellek előnyben maradnak.

Licencelés és üzleti modell

LFM2.5-2.6B az LFM Open License v1.0 alatt kerül terjesztésre. Ez a licenc lehetővé teszi a használatot, módosítást és újraelosztást — beleértve a kereskedelmi felhasználást — azoknak a szervezeteknek, amelyek éves bevétele kevesebb, mint 10 millió dollár. Nagyobb bevételű vállalatok számára a kereskedelmi használat külön megállapodást igényel Liquid AI-vel; a jogosult nonprofitok mentesülnek a küszöb alól kutatási és nem-kereskedelmi célokra.

Labonne a licencstruktúrát úgy jellemezte, hogy szükséges a modellfejlesztés fenntarthatóságához: „a modellek tényleg a védművek (moats), ezért ésszerűen kell licencelnünk őket; különben nem tudunk pénzt keresni, így nem tudunk több modellt készíteni.” Ugyanakkor elismerte, hogy a cég nem feltétlenül tudja független technikai úton ellenőrizni, ha egy nagyvállalat kicsivel feljebb telepíti a nyílt súlyokat: „szerintem ez a jogi csapat dolga, de személyesen nem tudom. És még ha 10 millió dollár felett vagy, ahelyett, hogy büntetnénk, azt kérjük, hogy vegyék fel velünk a kapcsolatot.”

A licenc mellett Liquid nyílt kutatási anyagokat is publikált, többek között strukturált kimenetre vonatkozó értékeléseket és egy edzési technikát, amely csökkenti a kis modellek ismétlődési hurkjait.

Partnerségek és piaci jelentőség

A kiadást egy MacPaw-bal kötött stratégiai partnerség bejelentése kísérte: a ukrán MacPaw, a CleanMyMac és a Setapp mögött álló cég hosszú távú együttműködést jelentett be Liquid AI-vel, hogy on-device AI stacket építsenek Mac-re. Liquid a MacPaw Eney macOS asszisztensének alapmodelljeit tervezi és finomhangolja, Apple siliconon helyileg futtatva MacPaw Elix inferencia motorján és Mnemos memóriarétegén keresztül; az eredményeket az év hátralévő részében várják.

Labonne ezt a megállapodást a „méret érve” kézzelfogható igazolásának tekinti: „Az egyik oka annak, hogy minket választottak, az, hogy a modell elég kicsi, és nincs meg náluk a memóriakeret a más modellek futtatásához.”

A kiadás olyan iparági környezetben érkezik, ahol a hardvergyártók, operációs rendszer fejlesztők és vállalati szoftvercégek egyre inkább a helyi AI-végrehajtásba fektetnek, és ahol az agent harness-ek terjednek. Liquid feltételezése, hogy a telepítési gazdaságosság — nem pusztán a nyers skála — határozza meg egy fontos piaci szegmenst: folyamatosan működő, bárhol futó ügynökök, amelyeknél a további tokenköltség gyakorlatilag nulla.

Végső soron az, hogy a kis, optimalizált agent modellek jelentős szeletet hasítanak-e ki a vállalati AI-ból, kevésbé a benchmarkokon múlik majd, és inkább az operációs megbízhatóságon. Liquid AI legújabb kiadása azonban azt jelzi, hogy a következő versenytér már nem pusztán nagyobb modellek építése: hanem olyan modelleké, amelyek elég kicsik és elég képzettek ahhoz, hogy ott fussanak, ahol a vállalati munkafolyamatok már léteznek.