A tárolás központi szerepet játszik az agentic (ügynök-alapú) AI-munkafolyamatokban: ügynökök lekérik a vállalati tudást, hozzáférnek perzisztens memóriához, újrahasználják a kulcs-érték cache adatokat, meghívnak eszközöket és generálnak eredményeket. Minden ilyen lépés több tárolási műveletet indíthat el, és ezek ismétlődhetnek ezrekre skálázódó, párhuzamos ügynökök esetén. A nagyméretű kontextusablakok és a magas párhuzamosság miatt a tárolórendszereknek többre van szükségük az egyszerű olvasás/írásnál: titkosítást, tömörítést, integritásellenőrzést, redundancia-számítást és helyreállítást is el kell végezniük, miközben nem lassíthatják le az alkalmazások válaszidejét vagy a token-generálást.
Míg az inferencia tipikusan GPU-kon fut, az ügynökök végrehajtása, eszközhívások, adatkezelési feladatok és a tárolásszolgáltatások a CPU-n futnak. Egyetlen késlekedő művelet is visszafoghatja az egész adatfolyamot: gyorsabb SSD-k és hálózatok teljesítményét a tárolási feldolgozást végző processzor korlátozhatja.
A Vera és a BlueField-4 STX megközelítése
Az NVIDIA Vera BlueField-4 STX Storage Processor, az NVIDIA STX alapját képező AI-native adatplatformok része, a Vera CPU teljesítményét beemeli közvetlenül a tárolás adatútjába. Ugyanaz a Vera CPU-architektúra, amelynek célja, hogy az NVIDIA Rubin GPU-kat ellássa adatokkal, a CPU-oldali tárolási feldolgozás felgyorsítására is szolgál.
NVIDIA által közölt mikromérések szerint a Vera több tárolási primitívet (titkosítás/dekódolás, helyreállítás, integritásellenőrzés, tömörítés/dekompresszió és többstages pipeline) gyorsabban hajt végre, mint egy összehasonlító x86 CPU. Ezek a teljesítményjavulások lehetővé teszik, hogy a tárolórendszerek több adatot dolgozzanak fel kevesebb CPU- és energiaráfordítással, valamint magasabb tömörítési áteresztőképesség esetén csökkentsék a kapacitás és sávszélességigényeket.
Vera CPU: kialakítás a tárolás kettős igényeihez
A Vera CPU 88, NVIDIA által tervezett Olympus magot tartalmaz, amelyek kompatibilisek az Armv9.2 utasításkészlettel, és 176 NVIDIA Spatial Multithreading szálat támogatnak. A processzor a NVIDIA Scalable Coherency Fabric (SCF), cserélhető SOCAMM2 LPDDR5X memória és egy 164 MB-os egyesített L3 cache köré épül. Az SCF bisection sávszélessége akár 3,4 TB/s, a memóriaaggregált sávszélesség pedig akár 1,2 TB/s (vagy magonként max. 14 GB/s), ami azon cél, hogy a magok magas egy szálon mért teljesítményét és nagy párhuzamosság mellett is kiszámítható adat-hozzáférést tartsa fenn.
A tárolási primitívek kétféle követelményt támasztanak: egyfelől az egyes adatfolyamokban a titkosítás, ellenőrzés, helyreállítás, tömörítés gyors befejezése szükséges (erős egymagos teljesítmény), másfelől sok egyidejű adatfolyamon ismétlődő adatmozgás miatt a sávszélesség és a kiszámítható latencia is kritikus. A Vera e két szempontot egyszerre kezeli: az Olympus magok széles utasításáteresztésűek, fejlett elágazás-előrejelzéssel és out-of-order végrehajtással, míg a SCF, az egyesített cache és a magas sávszélességű SOCAMM2 memória csökkenti a szálak közti interferenciát és kiszámíthatóbbá teszi a hozzáférést.
Mérések: hogyan teljesít a Vera a tárolás építőkövein
Az NVIDIA által végrehajtott mikromérések memória-reszidens fogyasztási tesztek, amelyek kizárják a lemez I/O-t, hálózatot és külső eszközöket, hogy a processzor hozzájárulását izolálják. A mérések OpenSSL, Zstandard és LZ4 könyvtárakat és optimalizált implementációkat használnak mind Arm, mind x86 környezetben, és ugyanazokat a munkaterhelés-definíciókat alkalmazzák a konzisztens összehasonlítás érdekében.
A mérések eredményei a következő előnyöket mutatják (Vera vs. az összehasonlító x86 CPU, NVIDIA által közölt csúcsértékek):
- AES-128 titkosítás: akár 1,43× magasabb áteresztőképesség.
- AES-128 dekódolás: akár 1,29× magasabb áteresztőképesség.
- Reed–Solomon helyreállítás (recovery workload): akár 3,26× magasabb áteresztőképesség.
- CRC32C integritásellenőrzés: akár 3,67× magasabb áteresztőképesség.
- Tömörítés: akár 3,29× magasabb áteresztőképesség, előnyt tartva több szálon is.
- Dekompesszió: akár 1,72× magasabb áteresztőképesség párhuzamos terhelés alatt.
- Többstages (tömörítés majd titkosítás) pipeline: akár 3,21× magasabb áteresztőképesség.
Ezek az eredmények azt mutatják, hogy Vera nemcsak az egyes primitívekben gyorsabb, hanem a valós tárolási írási útvonalat modellező többműveletes pipelineokat is hatékonyabban hajtja végre.
Milyen gyakorlati hatásai vannak ennek az AI-felhasználásokra?
- Gyorsabb titkosítás és dekódolás lehetővé teszi több védett adat egyidejű feldolgozását anélkül, hogy a write-path válna szűk keresztmetszetté, és csökkenti a védett adatok visszaadásának idejét.
- Nagyobb Reed–Solomon áteresztőképesség rövidebb rebuild- és repair-időket eredményezhet, valamint csökkentheti a normál szolgáltatásokkal való versengést a CPU erőforrásokért.
- Gyorsabb CRC ellenőrzés több adat validálását teszi lehetővé anélkül, hogy az integritásellenőrzés visszafogná a rendszert.
- Magasabb tömörítési és dekompressziós áteresztőképesség csökkenti a tárolási kapacitás és hálózati sávszélességigényt, valamint gyorsabban szolgáltatja vissza a dekompresszált adatot az ügynököknek és alkalmazásoknak.
Ezzel a Vera a CPU-oldali tárolási feldolgozásból kevesebb energia- és hűtési ráfordítással több munkát tesz lehetővé, növelve a szolgáltatási sűrűséget anélkül, hogy arányosan kellene növelni az infrastruktúrát.
Következtetések és további információk
A Vera CPU-t úgy tervezték, hogy a CPU-függő munkákat felgyorsítsa az agentic AI korszakában: host CPU-ként a Vera Rubin esetében GPU-kat szolgál ki, míg a BlueField-4 STX-ben a tárolási feldolgozásért felel. Az NVIDIA által közölt mérések szerint a Vera javítja a tárolási alapműveletek (titkosítás/dekódolás, Reed–Solomon helyreállítás, CRC ellenőrzés, tömörítés/dekompresszió) teljesítményét és energiahatékonyságát, ami segít az AI-native tárolóplatformoknak több adatot biztosítani és visszaadni anélkül, hogy a CPU lenne a szűk keresztmetszet.
További részletek a Vera architektúrájáról és a BlueField-4 STX tárolóprocesszorról az NVIDIA által kiadott Vera CPU és BlueField-4 STX műszaki leírásokban találhatók.
