Nvidia csütörtökön bejelentette új, nyílt súlyú (open-weight) nyelvi modelljeit, amelyeket kifejezetten mindig aktív ügynökök (always-on agents) és edge számítási környezetek számára fejlesztettek.
Modellek és célok
-
Nemotron 3.5 Super VL: ez egy nagy, 120 milliárd paraméteres modell, amelyet elsősorban vállalati ügynököknek és ügynökalapú feladatokhoz szánnak. Noha paraméterszámban kisebb a Nemotron 3 Ultra modellnél, az Nvidia szerint utasításkövetésben és eszközhasználati (tool-use) feladatokban hasonló pontosság érhető el vele.
-
Bolt modellek: a Bolt-család két könnyű változatát is bejelentették, amelyeket helyben futó AI PC-ken és DGX Spark munkaállomásokon való használatra szánnak. Ezek a kisebb modellek az új AI PC-kre (amelyek az Nvidia RTX Spark chipet használják) vannak optimalizálva, és a célcsoportba a fogyasztók, fejlesztők és vállalati tudásmunkások tartoznak. Az ilyen gépeket partnereken keresztül — például a Microsoft és a Dell — most vezetik be a piacra.
Konkrét Bolt konfigurációk:
- Nemotron 3.5 Bolt 74B-A9B 24GB: 74 milliárd paraméteres modell, helyi ügynöki feladatokra tervezve; a mérlegelést a sebesség és a következtetési képesség között tartja, többlépéses érvelésre, eszközhívásokra és webes böngészésre alkalmas.
- Bolt E4B: a legkisebb változat, elsősorban beszélgető (conversational) ügynökökhöz.
Teljesítmény és vállalati érdeklődés
Az Nvidia azt állítja, hogy a Super VL bizonyos, ügynöki feladatokra történő utótréning (post-training) után gyorsabban végez feladatokat, mint egyes versenytárs modellek (például Anthropic és OpenAI által említett modellek – Opus 5, GPT 6.1 Sol, Luna, Astra). A tesztelt feladatok közé tartoznak dokumentumértelmezés, pénzügyi könyvelés, tudományos kísérletek támogatása, egészségbiztosítási igények feldolgozása és biztonsági támadásokkal szembeni ellenállóképesség.
Az ilyen típusú teljesítmény-összehasonlításoknál gyakoriak a gyártói állítások, de az Nvidia mellékelte azon nagyobb cégek listáját is, amelyek szerintük már használják a Super VL-t: Skydance, EY, Ramp, CrowdStrike, Perplexity és Salesforce.
Nyílt modellek előnyei és stratégiai indoklás
Nvidia hangsúlyozza, hogy a nyílt súlyú modellek lehetővé teszik a szervezetek számára, hogy saját adataikon utótréningezve, a saját infrastruktúrájukon futtassák és birtokolják a megoldásokat. Kari Briski, az Nvidia Open Models and Software alelnöke a bejelentéskor azt írta, hogy „bármely szervezet, amely ügynököket kíván futtatni Nvidia infrastruktúrán, most nyitott, optimalizált modellt kap a saját rétegéhez anélkül, hogy a képesség és telepíthetőség között kellene választania.”
Ugyanakkor a cég versenytársai — köztük a gyorsan növekvő, zártabb fejlesztésű AI laborok — már többféle chip- és rendszergyártó felé nyitnak (például az AWS Trainium, Cerebras és saját, házon belüli chipek felé). Nvidia ezért erőteljesen rájátszik arra a trendre, hogy az vállalati ügyfelek saját adattáraik és adatközpontjaik mellett kívánják futtatni modelljeiket.
Helyi AI asszisztensek és adatvédelem
A kisebb Bolt modellek ugyanakkor a fogyasztói szintű AI-asszisztensek korai piacát is célozzák. Nvidia reményei szerint az olyan PC-k, amelyek helyben futtatják a modelleket és az ügynököket, lehetővé teszik, hogy a felhasználók az otthoni vagy munkahelyi gépeiken delegáljanak mindennapi feladatokat anélkül, hogy az érzékeny munkaterheléseket felhőbe küldenék. Briski erre utalva azt írta, hogy a helyben futtatott modellekkel a PC-felhasználók „átadhatják a mindennapi projekteket… anélkül, hogy ezeket a feladatokat a felhőbe küldenék.”
Elérhetőség
Az Nvidia közlése szerint a Nemotron 3.5 Super VL és a Bolt 74B-A9B már elérhető, míg a Bolt E4B a hónap későbbi részében válik elérhetővé.
A bejelentés tehát egyszerre reagál a vállalati igényekre, amelyek saját, skálázható, nyílt modelleket szeretnének futtatni, és a fogyasztói piacon felbukkanó helyi AI-asszisztens lehetőségére, miközben az Nvidia célja, hogy ezeken az új PC-ken és munkaállomásokon értékesítse saját chipeit és rendszereit.
