Thinking Machines Lab, a Mira Murati által alapított AI-startup — Murati korábban az OpenAI műszaki igazgatója (CTO) volt — szerdán reggel mutatta be első belső fejlesztésű modelljét, Inkling néven. A modell egyik legsúlyosabb különlegessége, hogy open-weight: a külső fejlesztők és vállalatok letölthetik és közvetlenül módosíthatják a súlyait.
Műszaki jellemzők és képességek
Inkling egy 975 milliárd paraméteres mixture-of-experts (MoE) rendszer, de egy adott feladathoz jellemzően csak a paraméterek töredékét — körülbelül 41 milliárdot — használja. Ez a megközelítés gyakori nagy modelleknél, mert gyorsabb és olcsóbb működtetést tesz lehetővé. A cég közlése szerint a modellt 45 billió (45 trillion) tokenen képezték, amelyek szöveget, képet, hangot és videót tartalmaztak, és a modell natívan képes ezek között következtetni. Jelenleg azonban a kimenetek korlátozottak: csak szöveg (beleértve kódot, stilizált anyagokat és strukturált adatokat) generálható.
A Thinking Machines hangsúlyozza, hogy Inkling képes kalibrált válaszok adására — például bizonytalanságot is jelez a találgatás helyett —, továbbá a felhasználók beállíthatják a modell „gondolkodási erőfeszítését” (thinking effort), hogy a pontosság és a sebesség között váltsanak. A cég egy benchmark szerint azt állítja, hogy Inkling ugyanahhoz a kódolási teljesítményhez körülbelül harmadannyi tokent használ, mint az Nvidia Nemotron 3 Ultra nyílt súlyú modellje.
Stratégia: testreszabhatóság és gyors bevezetés
Thinking Machines számára az Inkling az első nyilvános bizonyíték arra, mivel az elmúlt másfél évben elsősorban belső infrastruktúra-fejlesztésen dolgoztak. A vállalat eddigi kutatási előzetesei között szerepelt májusban az „interaction models” koncepció, amely olyan rendszerekről szólt, amelyek aktívan hallgatnak, beszélnek, sőt megszakítanak, szemben a hagyományos, várakozó chatbotos viselkedéssel.
A startup alapvető állítása az, hogy a szervezetek által saját magukhoz igazított AI jobb lesz, mint a mindenki számára ugyanúgy kínált egységes modellek. Ennek a megközelítésnek a központi eszköze Tinker, a Thinking Machines testreszabó platformja: az Inklinget inkább kiindulópontként pozícionálják, amelyet az ügyfelek saját adataikkal és tudásukkal finomhangolhatnak. A finomhangolás a cég szerint az ügyfél felelőssége a biztonság kérdéseiben; a folyamat jelentős gépi tanulási szakértelmet igényel.
Teljesítmény, együttműködések és árazás
A cég nem állítja, hogy Inkling a jelenlegi legerősebb modell lenne; a közlemények egyértelműen leírják, hogy „nem a legerősebb modell elérhető ma, se zárt, se nyílt”. A hangsúly a kiegyensúlyozott teljesítményen és a testreszabhatóságon van.
A tréninget a Thinking Machines nagyrészt Nvidia infrastruktúráján végezte: még márciusban partnerséget kötöttek, amely keretében egy gigawatt Vera Rubin számítási kapacitást készítettek ki, és Inklinget kizárólag Nvidia GB300 NVL72 rendszereken képezték. A cég azonban óvatos volt a költségek és a bevételi terv kommunikálásában; a nyilvános pénzügyi információk szerint a bevétel nem volt elsődleges fókusz, és a múlt télen pletykált, 50 milliárd dolláros befektetési kör jelentései az év elejére elakadtak.
Képzés forrásai és distillációs kérdés
Felkmerül a kérdés, hogy Inkling tanítása során használtak-e más modellek kimeneteit — az ún. distillációt. A Thinking Machines szerint a pretraininget saját maguk végezték el a nulláról, de a post-training korai adatok előállításához részben használtak más open-weight modelleket is, köztük Moonshot AI Kimi K2.5 modelljét. A vállalat azt ígéri, hogy a következő modellnél a post-training is teljesen önálló lesz.
Együttműködések és független eredmények
A Thinking Machines álláspontját alátámasztani látszik egy, a cég és a Bridgewater Associates (a világ egyik legnagyobb hedge fundja) közös projektje: egy nyílt forráskódú modellt továbbképzve Bridgewater pénzügyi szakértelmén, a rendszer az érintett pénzügyi logikai teszteken 84,7%-ot ért el, és futtatási költsége hozzávetőlegesen a tizennegyed része volt a konkurens megoldásokénak — azonban ezek a számok a két vállalat saját, nem független értékeléséből származnak.
Személyzet és vállalati kultúra
A Thinking Machines jelenleg mintegy 200 fősre bővült, miután az év elején volt hullám a távozásokból, köztük két társalapító is távozott januárban az OpenAI-hoz. A cég belső forrásai szerint a kultúra tudatosan a folytonosságra és a személyfüggőség minimalizálására épül: így a csapatmozgások kevésbé jelentenek visszalépést.
Mit jelent ez a piac számára?
A Thinking Machines stratégiája azt célozza, hogy a vállalati ügyfelek nagyobb kontrollt kapjanak a saját AI-megoldásaik felett, csökkentve a függést a központilag tanított, zárt modellektől. Ezzel párhuzamosan a piaci szereplők — köztük Microsoft vezérigazgató Satya Nadella és a Hugging Face vezetője, Clem Delangue — is jelezték, hogy a jövőben sok éles üzleti feladat privát vagy nyílt forráskódú modellek felé tolódhat.
Inkling most egy elérhető, letölthető kiindulópont: cégeknek lehetőségük van saját tudásukra szabni, de ez komoly belső szakértelmet, és a szabályozási, biztonsági felelősségvállalás vállalását is jelenti. A Thinking Machines továbbra is arra számít, hogy nem elsősorban a maguk által nyújtott inferencing-szolgáltatásból, hanem Tinker alapú testreszabásból és a köré épülő hostolási/szolgáltatási ökoszisztémából teremti meg a bevételi forrásait.
