A Hot Chips 2026 konferencián Nvidia bejelentette a Groq 3 LPX nevű chipek teljes termelésének megindítását — ez az első olyan lapka, amely a tavaly felvásárolt Groq vállalat technológiáján alapul. Nvidia tavaly 20 milliárd dollárt fizetett a Groqért, amelyet korábban kevesebb mint 7 milliárd dollárra értékeltek.
Mit tud a Groq 3 LPX?
A Groq 3 LPX-et egyetlen célra optimalizálták: a tokenek (modell-kimenetek) generálásának felgyorsítására. Nvidia bemutatója szerint egy 5 000 tokenes választ a korábbi 50 másodperces futásidő helyett 1,5 másodperc alatt ad vissza. Ez a példa 35×-es csökkenést jelent a token-generálás költségében, ha a költség elsősorban a végrehajtási időhöz kötődik.
Fontos hangsúlyozni, hogy a chip nem teszi „okosabbá” a modelleket: a Groq 3 LPX nem változtat a modellek architektúráján vagy képességein, csupán jelentősen lerövidíti a válaszidőt.
Miért számít ez a gyakorlatban?
Az elmúlt években az AI-fejlesztések két irányba haladtak: egyre összetettebb, „okosabb” modellek születtek, viszont ezek lassabb válaszidővel jártak, mert minden további következtetési lépés több másodpercet vesz igénybe. Egy többlépcsős ügynök esetén ez könnyen perces késleltetést eredményezhet.
A Groq 3 LPX lényegében ezt a várakozást szünteti meg: ha a token-generálás 35×-tel olcsóbb és gyorsabb, olyan termékek válnak megvalósíthatóvá, amelyek eddig költség- vagy késleltetési okokból nem voltak gazdaságosak. Az infrastruktúra-oldali költségcsökkentés így legalább annyira befolyásolhatja az AI-termékek elterjedését, mint maga a modellek fejlődése.
Vállalati stratégiai szempontok
A felvásárláskor sok elemző túlzottnak tartotta a 20 milliárd dolláros vételárat, mivel a Groq piaci értékelése korábban kevesebb mint 7 milliárd dollár volt. A Groq 3 LPX bevezetése azonban arra utal, hogy az akvizíció érdemi infrastruktúra-előnyt hozhat az Nvidia számára: egyetlen hardvergeneráció jelentős költségcsökkentést eredményezhet az AI-szolgáltatások működtetésében.
Összefoglalás
Nvidia a Hot Chips 2026-on bemutatta a Groq 3 LPX tömeggyártását, amely elsősorban a token-generálás sebességét növeli, és a bemutatott példák szerint akár 35×-es költségcsökkenést eredményezhet. A változás nem a modellek képességét javítja, hanem a futtatásuk költségeit és késleltetését csökkenti, ami jelentősen befolyásolhatja, mely AI-termékek válnak gazdaságosan megvalósíthatóvá.
