A Groq 3 LPX determinisztikus végrehajtási modellje lehetővé teszi, hogy a fordító cikluspontos ütemtervet készítsen az adatok mozgásáról és a műveletek pontos végrehajtási idejéről. Ez az előrejelezhetőség kiegészítő áram- és órajelvezérlési technikákat tesz lehetővé — Preemptive Power (PEP) és Clock Period Synthesis (CPS) — amelyek csökkentik a szükséges feszültség- és teljesítménytartalékot, ezáltal javítva az energiahatékonyságot a magas interaktivitású rétegekben. A Groq 3 LPX-t a NVIDIA Vera Rubin platform részeként vezetik be 2026 második felében.
Miért számít a teljesítmény/watt egy AI-fabrikában?
A cikk kiindulópontja, hogy az AI-farmoknál (AI factories) a korlátozott elektromos teljesítmény az elsődleges erőforrás. Nem pusztán a nyers átbocsátóképesség számít, hanem a teljesítmény per watt: mennyi hasznos AI-kapacitást lehet előállítani egy adott site-power keretben. Az NVIDIA Vera Rubin platform célja ezen hatékonyság maximalizálása a gyár- és szekrény (rack) szintű energia-menedzsment megoldásokkal.
Vera Rubin és a gyári szintű innovációk
A platform középpontjában az NVIDIA Vera Rubin NVL72 áll, amelyet úgy terveztek, hogy széles körű AI-igényekhez magas teljesítményt/watt arányt nyújtson, a nagy batch-ek átbocsátásától a kis batch-ek magas interaktivitású rétegeiig, nyílt és zárt modelleknél egyaránt. A gyári szintű szoftver, az NVIDIA DSX MaxLPS, képes a teljesítményt rackszinten átcsoportosítani a terhelés változásai szerint: ez lehetővé teszi, hogy egy site azonos teljesítménykeretében akár 40% több GPU-t helyezzen üzembe és 35% magasabb token-átbocsátást érjen el.
Rack-szinten a Vera Rubin NVL72 speciális kondenzátorok és az Intelligent Power Smoothing szoftver kisimítják a terhelésből adódó rövid, nagy csúcsokat, így a gyártervezés a fenntartott, folyamatos igény köré szervezhető a csúcsok helyett, vagyis több használható számítási kapacitás telepíthető megawatt-onként.
Groq 3 LPX a magas interaktivitású rétegekhez
A legmagasabb interaktivitású rétegek alacsony késleltetést és pontos reagálást követelnek. Ezekhez a Groq 3 LPX-t alkalmazzák alacsony késleltetésű gyorsítóként a Vera Rubin platformon. A Groq 3 LPX egyik kulcstulajdonsága a determinisztikus végrehajtás: a fordító képes előre megtervezni, hogy az egyes adatok mikor és melyik compute egységhez jutnak, sőt a pontos órajelciklusig lebontva mikor hajtódik végre az adott művelet. Ez a determinisztika kiterjed a rackszintű, 256 LPU chippel rendelkező rendszerekre is, ami lehetővé teszi az ultragyors interaktivitást hosszú kontextus mellett és taktikai energia-menedzsmentet.
Hogyan működik ez elektromos szempontból?
A determinisztikus ütemterv alapján a fordító meg tudja jósolni a rendszer áramfelvételét ciklusonként. Ebből két kiegészítő technológia következik:
- Preemptive Power (PEP): előkészíti a táplálórendszert a közelgő igényváltozásra, így a feszültség már mozoghat, mire a csúcs bekövetkezik.
- Clock Period Synthesis (CPS): alakítja az igény megugrásának sebességét azáltal, hogy bizonyos órajelciklusokat meghosszabbít vagy lerövidít, így csökkentve a di/dt-t (az áramváltozás sebességét).
Ezek a megközelítések csökkentik a „feszültség-guardband” vagy elektromos biztonsági sáv szükségességét — azt a folyamatos többlet-feszültséget, amelyet a chipek minimum működési feszültsége alá esésének megakadályozására tartanak fenn. Mivel a fogyasztott teljesítmény arányos a feszültség négyzetével, a guardband csökkentése jelentős megtakarítást eredményezhet.
Milyen fizikai kihívásokkal számolni?
AI-műveletek (például mátrix- és vektormultiplikációk) rövid idő alatt nagy tranzisztor-átkapcsolást igényelnek, ami nanomásodperces skálán növeli az áramigényt. A chip közeli decoupling kondenzátorok (decaps) biztosítják pillanatnyi többletet, de kisülésük feszültségesést (voltage droop) okozhat, amíg a feszültségszabályozó (voltage regulator) nem képes felhozni az áramot az induktivitás miatt fellépő késleltés okán. Ha a feszültség a chip Vmin alá esik, hibás működés léphet fel; ezt megelőzően tartanak folyamatos guardbandet.
Milyen előnyöket hoz a ciklus-pontos determinisztika?
A Groq 3 LPX esetében a fordító által előre gyártott ciklus-pontos ütemterv lehetővé teszi a pontos áramigény-görbe előállítását, ami a PEP és CPS segítségével megelőzi vagy kisimítja a legélesebb terhelésnövekedéseket. Belső tesztek alapján ez az eljárás több mint 60%-kal csökkentette a feszültségesést (voltage droop). A gyakorlatban az intézkedések várhatóan a folyamatosan biztosítandó alapfeszültség magas egyjegyű százalékpontos csökkenését eredményezhetik, ami a feszültség négyzetes arányossága miatt még nagyobb arányú teljesítmény-megtakarítást jelenthet. Összességében a Groq 3 LPX determinisztikus vezérlése hasonló specifikációjú, nem-determinisztikus rendszerekhez képest alacsony-kétjegyű százalékos megtakarítást ígér a futtatott munkaterhelés energiaigényében.
Hatás a Vera Rubin platformra és a hatékonyságra
A Groq 3 LPX megjelenése (H2 2026) a Vera Rubin platformban kiegészíti a gyári szintű NVIDIA DSX MaxLPS és a Vera Rubin NVL72 Intelligent Power Smoothing megoldásait. Mindhárom réteg más-más skálán működik, de közös céljuk, hogy több hasznos AI-inferenciát hozzanak ki minden megawattból.
Platformszinten a Groq 3 LPX és a Vera Rubin NVL72 párosítás állítása szerint akár 35x nagyobb átbocsátást per megawatt biztosít a korábbi generációs NVIDIA GB200 NVL72-hez képest, 2T+ paraméterű modellek hosszú kontextus és magas interaktivitás mellett. Ez azt jelenti, hogy az AI-farmok ugyanazon teljesítménykeret mellett jóval több tokent tudnak kiszolgálni ezen a igényes üzemelési ponton.
Elismerések
A cikk szerint a munkát Ashraf Essea, Kibibi Moseley, Graham Steele, Suhas Somnath, Sarah McKenney, Farshad Ghodsian és Eduardo Alvarez mérnöki hozzájárulásai tették lehetővé.
Következtetés
A Groq 3 LPX determinisztikus végrehajtása lehetőséget teremt az energiahatékonyság javítására magas interaktivitású AI-munkaterheléseknél azáltal, hogy a fordító előre kiszámítja az áramigényt és proaktívan alakítja a feszültség- és órajelviszonyokat. A technológia 2026 második felében érkezik a NVIDIA Vera Rubin platformra, és a vállalat szerint jelentős javulást hozhat a token-throughput per megawatt mérőszámban az érintett üzemelési pontokon.
