Miközben az AlphaFold2 2020-as áttörése a gyógyszerkutatásban nagyrészt a 1971 óta gyűjtött és a Protein Data Bankben tárolt körülbelül 170 000 fehérjestruktúrán alapult, a mérési adatok ma már sokkal gyorsabban gyűlnek. Modern detektorok és szenzorok, például a Linac Coherent Light Source II (LCLS-II), amely 1 MHz-es fotonimpulzus-ismétlési frekvenciát tud előállítani, az adatátviteli sebességek növekedésével eltolják a szűk keresztmetszetet a hagyományos „gyűjts, tárolj, elemezz” architektúráról.
NVIDIA a DAQIRI (Data Acquisition for Integrated Real-time Instruments) bevezetésével a gyűjtést egy rugalmas, szoftverközpontú adatgyűjtési csővezetékre helyezi. DAQIRI a Holoscan Platform részeként működő nagy teljesítményű hálózati könyvtár: közvetlenül kapcsolja össze a nagy sávszélességű, folyamatosan sugárzó detektorokat és szenzorokat az NVIDIA szoftverökoszisztémájával (például Holoscan valós idejű többmodális feldolgozáshoz, NVIDIA TensorRT valós idejű következtetéshez, valamint NVIDIA nvCOMP streaming tömörítéshez). Emellett DAQIRI közvetlenül képes adatokat továbbítani egyedi műszer-specifikus szoftverplatformok felé is.
Miért fontos ez?
A DAQIRI lehetővé teszi, hogy a mérőműszerek kimenetét közvetlenül élőben, a forrásnál előfeldolgozzák — szűrés, következtetés, tömörítés, eseménykiválasztás és adaptív vezérlés végrehajtására anélkül, hogy magát a műszert módosítani kellene. Az eszközkimenetek közvetlenül az él-gyorsszámításhoz kapcsolódó NVIDIA ConnectX hálózati kártyával ellátott rendszerekbe (például DGX Spark, IGX Platform, RTX Pro Server vagy VR200 jellegű megoldások) érkezhetnek, így a mérések folyamatos felügyelete és valós idejű reagálás válik lehetővé. Ez rövidebb utat jelent az adathalmaztól az új tudományos felfedezésig, miközben a kiválasztott adatokat előkészíti további, nagy teljesítményű számítási rendszerekbe történő továbbításra.
A-GHOST: haszontalannak tűnő adatból kereshető információ
A Nagy Látóhatárú Nagy Hadronütköztető (High-Luminosity Large Hadron Collider, HL-LHC) fejlesztése a CERN-en tízszeresére növeli a luminositást az eredeti tervekhez képest. Ennek kezelésére az ATLAS detektor kiválasztó rendszereit is megújítják: az első válogatási szinten a kiválasztott események sávszélessége 100 kHz-ről 1 MHz-re nő, a második szinten pedig a tárolás felé továbbított események aránya 1 kHz-ről legfeljebb 10 kHz-re emelkedik. Mindez az online rendszerben továbbra is több mint 99% visszautasítását jelenti az ütközéseknek.
Az A-GHOST projekt DAQIRI-t használ arra, hogy a hagyományos kiválasztási útvonal által eldobott adatfolyamban is erősebb, mesterséges intelligencia által vezérelt kereséseket hajtson végre. A fejlesztés a tervezett, FPGA-alapú táblák és egy nagy teljesítményű, GPU-kat használó feldolgozófarm közötti streaming kapcsolat kihasználására fókuszál. A CERN Openlab, a University of Chicago és a University College London (UCL) által vezetett kutatás lehetővé teszi majd a teljes adatfolyam valós idejű elemzését konvolúciós autoenkóderekkel (CAE-k), időbeli konvolúciós neurális hálókkal (TCN-ek) és transzformer-alapú modellekkel a prototípus hardvereken.
Műszaki alapok: hogyan működik a DAQIRI?
DAQIRI kifejezetten úgy készült, hogy nagy sávszélességű Ethernet-forgalmat, köztük UDP és RoCE v2 forgalmat kezeljen száz gigabit/s vagy ennél nagyobb vonali sebességen. A rendszer ezt úgy éri el, hogy teljesen kikerüli a Linux kernelt.
A Data Plane Development Kit (DPDK) használatával DAQIRI zéró másolásos (zero-copy) hozzáférést biztosít: az adatcsomagokat közvetlenül a hálózati kártyától (NIC) a GPU Direct Memory Access (DMA) pufferjeihez juttatja. Ez a kernel-kikerülés csökkenti a késleltetést és a CPU terhelését, amelyek a hagyományos hálózati verem használata esetén jelentkeznek, biztosítva, hogy a nagyméretű műszeradatok készen álljanak a GPU-n történő azonnali feldolgozásra.
DAQIRI főbb jellemzői:
- Nagy áteresztőképesség, alacsony késleltetés: vonali sebesség elérhető megfelelő hardver- és CPU/NUMA hangolás mellett.
- Testreszabott fogadási feldolgozás: automatikus csomagrendezés, adattípus-átalakítás és hardveralapú forgalomirányítás.
- Zéró memória-másolás a GPU-hoz: közvetlen hozzáférés a NIC gyűrűpuffereihez és a GPU tenzorhoz, a késleltetés csak a PCIe átkelési időre korlátozódik.
- YAML-alapú konfiguráció: optimizált, testreszabható hálózati sablonok a gyors telepítéshez.
- Rugalmas adatmozgató hátterek: Linux Sockets, DPDK és RoCEv2 támogatás különböző alkalmazásokhoz és hardverekhez.
- Plug-and-play C++ és Python API-k: valós idejű alkalmazások és interfészek építése más GPU könyvtárakkal percek alatt.
Egyszerűsített fejlesztői munkafolyamat
DAQIRI elrejti a mély hálózati optimalizációk összetettségét: a fejlesztők YAML konfigurációs fájlokban adják meg a fogadási útvonalakat, a NIC és GPU hozzárendeléseket, a csomagszűrést és a kimeneti tenzor formátumát. A rendszer automatikusan kötegel és rendezi a beérkező hálózati csomagokat GPU-tenzorokká — így a fejlesztőknek nem kell egyedi csomagokkal vagy kézi memóriakezeléssel foglalkozniuk, hanem közvetlenül az AI-modellekre vagy CUDA-kernerekre adhatják a GPU-n élő adatokat.
A dokumentáció és a bemutatott példák részletezik az olyan beállításokat is, mint a csomagonkénti batch-méret, időkorlátok (például 2 ms részleges batch-flush), illetve a típuskonverziók (például int4-on érkező bites minták fp16-tenzorrá alakítása a GPU rendezés során), amelyeket a DAQIRI konfigurációkban egyértelműen meg lehet adni.
Következmények és alkalmazási területek
A DAQIRI paradigmaváltást kínál: a hagyományos, merev hardverközpontú adatgyűjtési módszerek helyett szoftveralapú, AI-képes architektúra teszi lehetővé az adatfolyamok élő feldolgozását és intelligens szűrését a mérési ponton. Ez különösen fontos nagysebességű tudományos létesítményeknél (például LCLS-II, HL-LHC/ATLAS), ipari CT- és rádiórendszereknél, valamint bármely olyan alkalmazásnál, ahol a bejövő adatmennyiség meghaladja a hagyományos „gyűjts majd elemezz” képességeket.
Hol található további anyag?
NVIDIA a DAQIRI GitHub-tárházában és a Getting Started dokumentációban biztosít példákat, bemutatókat és teljesítménymutatókat. A szoftver könnyen integrálható meglévő instrumentumokhoz, és a cég a Holoscan ökoszisztémáján keresztül további valós idejű feldolgozó komponenseket kínál.
Köszönetnyilvánítás
A DAQIRI és az A-GHOST együttműködés kapcsán NVIDIA megköszöni David Miller és Ioannis Xiotidis (CERN) munkáját és visszajelzéseit, továbbá Alexis Girault ANO dokumentációját, valamint Cliff Burdick, Chloe Crozier, Jay Carlson, Mahdi Azizian, Julien Jomier és a Holoscan csapat hozzájárulását és szakmai támogatását.
