Nyílt modellek helyzete: Kimi K3, Qwen, GLM 5.2, distilláció és a nyílt‑zárt verseny kérdései

Nathan Lambert és Florian Brand az Interconnects podcast legutóbbi adásában részletesen átbeszélte az open-weight modellvilág legfrissebb fejleményeit: a Kimi K3 kiadását, a GLM 5.2 szerepét, a Qwen‑t és más kínai szolgáltatókat, valamint a distilláció (SFT) és a nagy léptékű megerősítéses tanulás (RL) viszonyát. A beszélgetésben szó esett a kínai modellek kapacitásairól és szervezeti jellegzetességeiről, a nyílt és zárt modellek közötti gazdasági és biztonsági vetületekről, továbbá a rövid távú előrejelzésekről.

Mire jutottak a Kimi K3-ról és a GLM 5.2‑ről?

• Kimi K3 megjelenése után sok beszélgetés indult a tempóról és a szolgáltatások elérhetőségéről: a modell API‑forgalma túlterhelt, a hozzáférésnél előfordulnak hibák, az előfizetési csomagok különbözőek (a beszélgetés szerint van egy prémium csomag nagy kontextusmérettel). A model súlyai még nem váltak széles körben hozzáférhetővé, de a beszélgetők arra számítanak, hogy a súlyok megjelenését követően a közösség intenzíven poszt‑tréningelni fogja a modellt.
• GLM 5.2 továbbra is fontos szereplő: sok fejlesztő és vállalati felhasználó gyors, belső végpontokhoz kötődő verziókban használja; többek szerint a GLM 5.2 alkalmas volt arra, hogy sok „brute‑force” feladatnál gyors és elegendő eredményt adjon.
• A két modell használhatóságáról: Kimi K3 több feladattípusban meglepően jó volt — például nyilvános fórumok és letöltési trendek összekapcsolásában — és kódgenerálási feladatoknál olvashatóbb, egyszerűbb kódot ad, bár egyes niche esetekben Codex‑szintű finomításokra van szükség.

Kínai modellek miért fejlődnek ilyen gyorsan?

A műsorban több, nem kizárólagosan bizonyított magyarázatot említettek:

• Költséghatékonyság és tőkeáttétel: lehet, hogy a kínai laborok alacsonyabb költségek mellett hatékonyabban forgatják vissza a ráfordításokat compute‑ra, adatra és tehetségre.
• Szakmai fókusz és csapatösszetétel: a beszélgetők tapasztalata szerint sok csapat kifejezetten egy modell fejlesztésére koncentrál, kevesebb „side quest” van.
• Növekvő hazai chip‑ellátás és a gyakorlatban használt hardver: felmerült, hogy egyre több hazai gyártású (például Huawei‑féle) vagy exportkorlátozásokat kikerülő hardver kerül használatba, és ez növeli a rendelkezésre álló számítási kapacitást, különösen az inference oldalán.
• Adat és környezetek: megjelent igény külső adatok és szimulációs környezetek vásárlására is, bár a beszélgetők szerint ennek mértékét és hatását nehéz felmérni nyílt információk alapján.

Kínai szereplők és hányaduk a piacon

A műsor részletesen sorolta a kínai nyílt‑modell szereplőket: Kimi, Zhipu / GLM, Qwen (Alibaba), DeepSeek, MiniMax, Ling, Meituan, LongCat és további aktorok. Néhány megállapítás:

• Qwen: kifejezetten erős a kisebb modellekben és fejlesztői ökoszisztéma‑húzó szerepet játszik, de a nagy modelleknél nem mindig éri el ugyanazt az abszolút csúcsteljesítményt.
• DeepSeek: gyors iterációkat és gyakori checkpoint‑feltöltéseket alkalmaz, így a preview végpontjuk gyakran frissül.
• MiniMax: licencpolitikájának és nyitottságának változásai fontosak; a műsorvezetők meglepetést vártak tőle a későbbiekben.
• Sok kínai modell erős belső felhasználási értéket ad vállalatoknak, de nem mindig ér el azonnali fejlesztői áttörést (developer mindshare) külső közösségekben.

Az amerikai és globális nyílt‑modell ökoszisztéma

A vendégek áttekintették az USA‑beli és más nyugati szereplőket is: Thinking Machines (Inkling modellek), Nemotron, Poolside, Reflection, Nvidia és a Google Gemma‑család. Megjegyzések:

• Több kisebb amerikai cég a finomhangolhatóságra és domain‑specifikus kisebb modellekre próbál fókuszálni, ami gyakorlati üzleti értéket hozhat még akkor is, ha nem frontvonalbeli benchmark‑elsőséget jelent.
• Az open‑model kiadagolás műszaki és infrastrukturális kihívásai miatt az új modellek elterjedése nem mindig gyors: a súlyok és hatékony inferenciaeszközök elérhetősége kulcskérdés.

Frontier vs. near‑frontier: üzleti és biztonsági következmények

• A beszélgetők elkülönítették a „near‑frontier” (sok gyakorlati feladatra elégséges) és a „frontier” (új tudományos felfedezések, drogtervezés, matematikai bizonyítások stb.) kategóriákat. Szerintük a very‑frontier feladatok várhatóan hosszabb ideig a legfejlettebb, zárt laborok privilégiumai maradnak.
• Biztonsági vita: ha bizonyos (különösen kínai) nyílt‑súlyú modellekhez a védekezésben részt vevő szereplők nem férnek hozzá (vagy jogi/eljárási kockázatok miatt nem használhatják őket), az hosszabb távon hátrányt jelenthet a védekezőknek a rosszindulatú szereplőkkel szemben.

Distilláció (SFT) kontra RL: mennyit számít a „teacher” modell?

• A podcast mélyen foglalkozott a kérdéssel, hogy a legerősebb, zárt modellekből kinyert reasoning‑trace és SFT‑adat mennyire segíti a nyílt modelleket felzárkózni. A házi álláspont többszörösen hangsúlyozta:
  • SFT (distilláció) van hatása, különösen a „manner” és viselkedés tanításában, de önmagában ritkán hoz átütő előnyt a frontier‑szint eléréséhez.
  • A megerősítéses tanulás (RL), különösen nagy volumenű agent‑rolloutokkal, az a tényező, ahol a legnagyobb előrelépés történik — viszont a fejlett RL‑támogatás (gyors, olcsó judge modellek) jelentős infrastruktúrát és költséget igényel.
  • A műsorban kritizálták Ben Thompson azon érvelését, miszerint a distilláció szerepe nőtt volna annyira, hogy szabályozni vagy megtiltani kellene — a beszélgetők szerint a rendelkezésre álló kutatási és gyakorlati tapasztalatok alapján ez a kérdés nem ilyen egyértelmű.

Kiberbiztonság és hozzáférési egyenlőtlenség

A vendégek felhívták a figyelmet: ha a nyugati cégeket jogi úton, vagy „árnyék‑tilalmakkal” visszatartanák attól, hogy a legjobb nyílt modelleket használják (például kínai open‑weight modelleket), akkor a védekezők képességei romolhatnak a támadókhoz képest. Ez különösen fontos lehet olyan területeken, ahol a near‑frontier modellek gyakorlati előnyt adnak a védekezésben.

Előrejelzések és rangsor‑felvetések

• A beszélgetés szerint az év második felére a frontvonal közelében: Kimi és Zhipu/GLM maradhatnak, DeepSeek és Qwen pedig közeli kihívók lehetnek; MiniMax ettől függetlenül meglepetést okozhat.
• Valamelyik amerikai szereplő (pl. Nvidia, Thinking Machines vagy Reflection) bekerülése a „közeli versenytársak” körébe az év végére lehetséges, de nem biztos.
• Nem vártak hatalmas, több 5–10 trillió paraméteres nyílt modellek megjelenését rövid távon; inkább a finomhangolhatóság és az infrastruktúra lesz a fókusz.

Következtetések

A műsor összegzése szerint az open‑weight mezőny dinamikusan fejlődik, különösen a kínai szereplők gyors iterációja és növekvő infrastruktúrája miatt. Ugyanakkor a tényleges versenyben a részletek — licenc, hozzáférés a súlyokhoz, inferenciaeszközök, adat- és környezetvásárlás, valamint a finomhangolhatóság — alakítják majd, ki lesz tartósan versenyképes. A distilláció és az SFT szerepe valós, de nem triviális; a nagy léptékű RL‑folyamatok és az infrastruktúra sokszor fontosabb tényezők.

Mellékes megjegyzés

A beszélők megemlítik Nathan Lambert közelgő könyvét, amely post‑training tudás megosztásáról szól: a könyv szállítása folyamatban van, és a beszélgetés elején a szerzők erre is felhívták a figyelmet.