A Moonshot AI bejelentette a Kimi K3-at, egy 2,8 billió (2,800 milliárd) paraméteres multimodális, látás–nyelv modellként definiált rendszert. A cég azonnal elérhetővé tette a modellt API-n keresztül, és közölte, hogy a modell súlyait legkésőbb július 27-ig nyilvánossá teszi — ha ez teljesül, a Kimi K3 jelenleg ismert legnagyobb nyílt súlyú modell lesz.
Működés és architektúra
A Kimi K3 egy mix-of-experts (sparse MoE) transzformer, amelyben összesen 2,8 billió paraméter található. A rendszer 896 szakértőből (experts) áll, és tokenenként körülbelül 16 aktív szakértőt használ, ami nagyjából 50 milliárd aktív paraméternek felel meg per token. A modell bemenete képek, videók és szöveg lehet (akár 1 millió tokenig), a kimenet szöveg (akár 1 millió tokenig), és kb. 62,0 token/másodperc sebességgel dolgozik.
Két frissen publikált architekturális újítást alkalmaz a Kimi K3:
-
Kimi Delta Attention (KDA): ez egy lineáris figyelemmechanizmus, amely rögzített méretű memóriát tart fenn a hosszú bemeneteken, és dönt arról, mikor írjon felül régi információt. A Kimi Linear kísérleti modellben 1 millió tokenes bemenetnél a KDA akár 75%-kal csökkentette a memóriahasználatot és legfeljebb hatszoros sebességnövekedést eredményezett.
-
Attention Residuals: a hagyományos residual összegzés helyett ez a megoldás a rétegek közötti információátvitelt figyelem-alapúvá teszi. A Kimi K3 egy blokk-alapú Attention Residuals változatot használ, amelyben a rétegek csoportonként figyelnek a korábbi rétegkimenetekre. Moonshot kísérletei szerint a blokk-szintű Attention Residuals megegyező teljesítményt ért el a standard residual kapcsolatokkal, de 20%-kal kevesebb tanítási számítást igényelt.
A modell szerkezetébe a KDA a figyelemrétegek háromnegyedében van beépítve. Moonshot szerint a KDA és az Attention Residuals mellett egy sparser MoE dizájn és jobb tréning‑ és adatreceptek együtt hozzávetőlegesen 2,5×-es hatékonyságnövekedést eredményeztek a korábbi Kimi modellekhez viszonyítva, ha a modellfejlődést adott számítási erőre mérik. A vállalat további részleteket ígért egy műszaki beszámolóban.
Képességek és szolgáltatások
A Kimi K3 jelenlegi funkciói közé tartozik az állítható következtetési mód (jelenleg „max” és mindig bekapcsolt; alacsony és magas üzemmódok később ígérve), eszközhasználat (tool use), strukturált kimenet és automatikus kontextus‑cache-elés.
Teljesítmény és benchmarkok
Független mérésekben a Kimi K3 az élvonalbeli zárt modellek után, de minden nyílt súlyú modell előtt végzett sok teszten. Főbb eredmények:
-
Artificial Analysis Intelligence Index: Kimi K3, max reasoning beállítással 57 pontot ért el; ez a rangsorban csak Claude Fable 5 (max reasoning + fallback, 60) és GPT-5.6 Sol (max reasoning, 59) előzte meg. A legközelebbi nyílt súlyú versenytárs a GLM-5.2 max reasoning beállításon 51 ponttal.
-
AutomationBench-AA: Kimi K3 (max reasoning) 53%-os eredménnyel vezetett a modellek között az automatizált üzleti munkafolyamat-tesztekben.
-
GDPval-AA v2: Kimi K3 (max reasoning) 1,668 Elo-val végzett; csak Claude Fable 5 (1,760 Elo) és GPT-5.6 Sol (1,743 Elo) előzte meg.
-
Arena.ai Code Arena — WebDev: a Kimi K3 1,679 Elo-val debütált, és hét frontend domaine közül hatban első helyre került.
Költséghatékonyságban a Kimi K3 max reasoning beállítással az Artificial Analysis Intelligence Index feladatain 0,95 dollár/felé adódó költséget mutatott, ami közel van a GPT-5.6 Sol (1,04 $/feladat), olcsóbb, mint Claude Fable 5 (2,75 $/feladat), és drágább, mint GLM-5.2 (0,47 $/feladat).
Elérhetőség és árképzés
A Kimi K3 elérhető a Kimi.com oldalon, Kimi mobilalkalmazásokon, Kimi Work appon és a Kimi Code CLI-n keresztül. Tokenárai: bemeneti/cached/kimeneti tokenenként 3,00 / 0,30 / 15,00 dollár per millió token. A Kimi alkalmazások tagságai a díjmentes szinttől havi 199 dollárig terjednek.
A modell súlyait a cég ígérete szerint hamarosan közreadja (július 27-ig), de a pontos licencfeltételről, a felhasznált tanítóadatokról és a tréningmódszerről egyelőre nem közöltek részleteket. Az aktívan használt paraméterek pontos száma sem publikus.
A háttér és jelentőség
Az elmúlt évben a nyílt modellek folyamatosan gyorsan fejlesztették egymást, és a Kimi K3 a Llama 3 (2024) óta az egyik legszorosabb lépés az állami-of-the-art felé. A Moonshot Kimi családja: a Kimi K2 vezette be az 1 billió paraméteres vonalat, majd a Kimi K2.5 és Kimi K2.6 egymás után kerültek az open-weight listák élére. Nemrég a Z.ai GLM-5.2 vette át a vezetést, és röviddel a Kimi K3 bejelentése után Alibaba bemutatott egy 2,4 billió paraméteres előzetes verziót, a Qwen3.8-Max-Preview-t, amely — állításuk szerint — csak a legjobb zárt modellek mögött áll, és szintén nyílt súlyokkal tervez megjelenni.
A Kimi K3 jelentősége abban rejlik, hogy csökkenti azokat az okokat, amelyek miatt fejlesztők és vállalatok a legjobb zárt modelleket választanák: közel áll a vezető zárt modellek teljesítményéhez, alacsonyabb költségen fut bizonyos feladatokon, és a nyílt súlyok megjelenésével finomhangolásra, distillációra és alaposabb vizsgálatra is lehetőség nyílik. Az is fontos következmény, hogy a súlyok tulajdonosa fogja szabni az alkalmazási irányelveket: sok olyan kérést, amit Claude Fable 5 megtagad, a Kimi K3 felhasználóinak kevesebb korláttal kell szembesítenie, amennyiben a licenc ezt lehetővé teszi.
Összegzés
A Kimi K3 architekturális innovációk — például a Kimi Delta Attention és az Attention Residuals — révén jobb számítási és memóriahatékonyságot ígér, miközben versenyképes teljesítményt nyújt számos, gazdaságilag releváns feladatban. A modell azonnali API‑elérést kapott, a súlyok nyilvánossá tétele és a részletes műszaki dokumentum következő lépésként ígért. Ha a nyílt súlyok és a licencfeltételek kedvezőek, a Kimi K3 tovább szoríthatja a határokat a nyílt és a zárt modellek közötti versenyben.
