Az AI-alapú kódíró ügynökök (agents) egyre gyakrabban részei a fejlesztési munkafolyamatoknak, ugyanakkor a általános célú ügynökök nem rendelkeznek speciális infrastruktúra-szoftverekre, például az NVIDIA DOCA platformjára vonatkozó domain-specifikus tudással. Ennek hiányában az ügynökök találgatásokra kényszerülhetnek, ami az infrastruktúra-fejlesztésben hosszabb korrekciós ciklusokhoz és késleltetett telepítéshez vezethet.
A DOCA (Data Center Infrastructure Offload and Acceleration) az NVIDIA BlueField adatfeldolgozó egységek (DPU-k) teljes képességét kiaknázó egységes szoftverplatform: felöleli az gyorsított hálózatkezelést, AI-native tárolást, in-silicon biztonságot, telemetriát és életciklus-kezelést. A DOCA a fejlesztői alap, amelyre a BlueField-alkalmazásokat építik.
A DOCA AI agent képességek (DOCA AI agent skills) mostantól elérhetők a GitHubon a NVIDIA/skills repóban. Ezek a képességek gépileg olvasható, strukturált alapot adnak az ügynököknek ott, ahol az általános célú ügynökök hibáznak: tartalmazzák a tényleges API aláírásokat, hardver-képesség követelményeket és build-korlátozásokat.
Mi az a DOCA AI agent skill?
A DOCA AI agent skills egy szabványosított, könnyű formátumú módja annak, hogy új képességeket és szakértelmet adjanak AI ügynököknek. A formátum egy SKILL.md fájl köré épül, amely valós API-aláírásokat, hardverkövetelményeket és build-korlátozásokat tartalmaz. Ezek a képességek együtt egy érvelési és működési keretet adnak az ügynökök számára a DOCA fejlesztésben.
A skills lefedik a teljes DOCA könyvtárat, például Flow, GPUNetIO, PCC és más komponenseket. Nem helyettesítik magát az ügynököt, hanem megadják a domain-specifikus tudást, hogy az ügynök úgy tudjon gondolkodni, mint egy tapasztalt DOCA-fejlesztő.
Minden skill egy adott DOCA komponensre vagy munkafolyamatra szűkül. Például a DOCA Flow-hoz tartozó skill tényleges függvényaláírásokat, a helyes pkg-config modulneveket, build-konténer korlátozásokat, valamint a gyakori hibamódokat és azok javításait tartalmazza. A skillek nem csak dokumentációs összefoglalók: gépileg értelmezhető specifikációk, amelyeken az ügynök közvetlenül érvelhet.
Miért van szükség alapra az AI ügynököknek DOCA-fejlesztéshez?
Ha általános célú AI ügynököt kérünk meg DOCA-specifikus műveletekre (például DOCA Comch létrehozása, RDMA kontextus konfigurálása, vagy egy DOCA Flow link-hiba hibakeresése), az ügynök általában általános mintázat-illesztésre támaszkodik a tanító adataiban — nem pedig ellenőrzött DOCA API-szerződésekre, hardver-manifesztumokra vagy build-specifikációkra. A DOCA könyvtár nagy felületű, gyorsan változó és hardverspecifikus; a generikus tanító adatok nem fogják követni a részleteket. Hiányzik egy gépileg olvasható szerződés, amelyre az ügynök érvelhetne, és nincs garantált stabil felület az ügynök tudása és a tényleges hardver/szoftver képességei között.
A NVIDIA csapata 65 valós DOCA fejlesztői promptot futtatott le, összehasonlítva az ügynökök teljesítményét skillekkel és skillek nélkül. Ezek a promptok egy sor feladatot fedtek le, az egyvonalas kérdéstől a részletes, többkövetelményes feladatokig, és mindegyiket egy kötelező ellenőrzőlistához (pass/fail kritériumok) mérték. Az eredmények a következők voltak skillek nélkül:
- APIs és flag-ek helytelen használata: 59/65 prompt
- Hardver-képesség ellenőrzésének hiánya: 46/65 prompt
- Rossz eszköz (tool) routing: 39/65 prompt
- Elhanyagolt smoke tesztek: 34/65 prompt
- Feltételezett/verziók találgatása: 30/65 prompt
Általánosan, skillek nélkül az ügynökök a pontozott ellenőrzőlisták elemeinek csak 19%-át teljesítették. Skillekkel ugyanazon 65 prompt esetén 100%-os megfelelést értek el. Minden ügynökhiba skillek nélkül fejlesztői hibakeresési munkát eredményezett, ami meghosszabbította az utat a működő kód felé.
Milyen előnyökkel járnak a fejlesztők számára a DOCA agent skillek?
A DOCA agent skillek lehetővé teszik, hogy ügynökeink domain-szakértelemmel bírjanak, ami konkrét előnyöket hoz:
- Gyorsabb fejlesztés: az ügynök a helyes, ellenőrzött DOCA API-hívásokat használja azonnal, kevesebb hibajavítással.
- Stabilabb kód kiszállítása: az ügynök a kódírás előtt ellenőrzi, hogy az eszköz ténylegesen támogatja-e a megoldást.
- Kevesebb ismeretlen a telepítésnél: az ügynök preflight ellenőrzéseket, rollback terveket és cold power-cycle követelményeket érvényesít a hardver érintése előtt.
Ezek együttes hatása a korrekciós ciklusok számának csökkenése, ami skálázott csapatoknál minden fejlesztőnél és telepítésnél összeadódik.
Négy részletes képesség és konkrét hatásuk
A cikk négy területet emel ki, mindegyikhez valódi prompttal és a skill használatának hasznával.
1) Gyorsabb fejlesztés valós API-kkal
Mit oldanak meg: az ügynökök által kitalált, nem létező függvények, flag-ek és image tagek használatát.
Eredmény a 65 promptból: ez volt a leggyakoribb hiba (59/65). Skillek nélkül az ügynökök olyan DOCA függvényeket és flag-eket generáltak, amelyek nem léteznek, és a fejlesztő hibakeresésbe kezd egy általa nem okozott hiba miatt.
Példa prompt: a fejlesztő egy BlueField-3 DPU-val rendelkező hosztot említ, és szeretne egy DOCA Comch (Comm channel) csatornát létrehozni hoszt-oldali folyamat és DPU-oldali agent között, 4 KiB alatti üzenetekhez.
A skillekkel rendelkező ügynök csak a valódi DOCA Comch API-kat használja: helyes argumentum-sorrend, ellenőrzött flag-ek és lifecycle-szekvencia, semmi kitalált elem.
A helyes API-szegmens használatával az integráció felé lehet haladni hibakeresés helyett; 63 promptban, amelyek API-pontosságot teszteltek, a skillek javulást hoztak minden esetben.
2) Hardver ellenőrzése írás előtt
Mit oldanak meg: az ügynökök olyan képességekre írnak kódot, amelyeket az eszköz nem támogat.
Eredmény a 65 promptból: a hardver-képesség ellenőrzése 46/65 promptnál hiányzott skillek nélkül. Az ügynök feltételezte a képességet, generált kódot, a fejlesztő pedig csak a valódi hardveren szembesült a hiánnyal.
Példa prompt: két hoszt InfiniBand hálózattal, egy NVIDIA GPU-val és egy ConnectX NIC-kel, DOCA telepítve; a fejlesztő az RDMA WRITE latenciáját szeretné mérni, amikor a WR egy CUDA kernelből van bepostolva, hogy eldöntse, vállalja-e a GPUNetIO Verbs interfészt.
A skillekkel rendelkező ügynök előbb ellenőrzi a tényleges eszköztámogatást: GPU–NIC PCIe topológiát, GPUNetIO támogatást, és alternatív API-kat javasol, valamint mikor melyik alkalmazandó.
3) Fordulás és linkelés helyes kezelése
Mit oldanak meg: az ügynökök olyan kódot adnak, amely nem fordul vagy nem linkel a DOCA build-környezetben.
Eredmény: a build-helyesség 10 promptban volt tesztelve; ha a build/link nem működik, a fejlesztés megakad.
Példa prompt: egy DOCA Flow mintaprogram fordítása sikeres, de a linkelésnek doca_flow_init hiányzó referenciája miatt meghiúsul.
A skillekkel rendelkező ügynök felismeri, hogy link-idő hibáról van szó, és a build eszköz (pkg-config) használatára utasít a helyes linker-flag-ek lekérdezéséhez. Azonnal a megfelelő diagnosztikai lépés és eszköz kerül megnevezésre.
4) Hardvert érintő változtatások biztonságos végrehajtása
Mit oldanak meg: firmware-szintű változtatások élő hardveren preflight ellenőrzés, rollback terv vagy cold power-cycle ismerete nélkül.
Eredmény: a legnagyobb teljesítménykülönbség a legmagasabb komplexitású feladatnál jelentkezett — firmware-szintű változtatásoknál.
Példa prompt: egy termelési környezetben futó BlueField-3 DPU-n kell mlxconfig-class firmware-paramétert írni.
A skillekkel rendelkező ügynök betartja a szükséges eljárásokat: előzetes leltár, az out-of-band (OOB) path feltételezése, fenntartási ablak, rollback terv és az a megjegyzés, hogy az mlxconfig-class írások csak cold power cycle után lépnek életbe, nem meleg újraindítás után. A skillek minden követelményt teljesítettek; skillek nélkül egyik sem teljesült. Élő termelési DPU-n ezek a hibák visszafordíthatatlan következményekkel járhatnak.
Kísérleti demo: mennyit spórolnak a skillek?
A demonstrációban két ügynök kapott azonos feladatot: Go alapú RDMA alkalmazást készíteni NVIDIA DOCA használatával BlueField-3 platformon. Mindkettő sikeres volt, de az ügynök, amelyik skilleket használt, 73% kevesebb kézzel írt kódot hozott létre (189 sor versus 695 sor), és körülbelül felével kevesebb hardverparancsot hajtott végre (20 versus 37 — 46% csökkenés). Ez a különbség azt mutatja, hogy az egyik ügynök újrafelfedezte a DOCA API-kat és build-követelményeket próbálkozások során, míg a másik ügynök már a szükséges tudással kezdett.
Hogyan kezdjen hozzá?
A DOCA AI agent skillek olyan domain-tudást adnak az ügynököknek, amely lehetővé teszi a hatékonyabb és pontosabb fejlesztést. A kezdéshez látogasson el a NVIDIA/skills GitHub repóba, ahol általános skillek gyors belépést kínálnak, továbbá könyvtár-specifikus skillek érhetők el DOCA Flow, GPUNetIO, RDMA és más területekhez.
