Eszközök

Mesterséges intelligenciával generált szöveg

Memóriaalapú ügynök fejlesztése NVIDIA NemoClaw használatával

A fő szereplő az NVIDIA csapata és az általuk bemutatott Memory-Driven Chief of Staff nevű memóriaalapú ügynök, amelyet NVIDIA NemoClaw segítségével építettek.

Memóriaalapú ügynök fejlesztése NVIDIA NemoClaw használatával

Vállalati munkafolyamatok üzenetekből, döntésekből, projektekből és időben változó kötelezettségekből állnak. Egy olyan AI-ügynök, amely kontextus nélkül indul, kénytelen ezt a kontextust újraépíteni, mielőtt hasznos hozzájárulást tudna adni. Ennek a problémának a megoldására a csapat az NVIDIA NemoClaw eszközt használva egy memóriaalapú "Chief of Staff" ügynököt épített.

A fejlesztett ügynök egy ember által olvasható tudásréteget tart fenn, amelyet self modelnek neveznek: ez az ügynök memóriája a releváns személyekről, projektekről, prioritásokról és munkaszokásokról. Ütemezett feladatok rendszeresen átnézik az új aktivitást, nyomon követik a kötelezettségeket és idővel beépítik a felhasználói döntéseket. A tapasztalat azt mutatja, hogy a hasznos ügynökmemória strukturálást, szelektív visszakeresést és irányítást igényel — nem elég pusztán tárolni az adatokat.

A megközelítés lényege

A self model strukturált Markdown-oldalakban tartja a kapcsolatokat és entitásokat: személyek, projektek, prioritások, célok, fogalmak és ismétlődő munkaminták. A séma definiálja az indexelést, a kereszt-hivatkozásokat, a forrást (provenance) és a növekedési korlátokat. Fontos tervezési elv, hogy a self model származtatott értelmezést tárol, nem pedig felülírja a forrásei bizonyítékokat — a kettőszintű megközelítés segít meghatározni, hogy egy hibás válasz honnan ered: a bizonyítékból, a memória karbantartásából, a visszakeresésből vagy magából a modell döntéséből.

Bizonyíték, tudás és végrehajtás szétválasztása

A memóriaalapú Chief of Staff három rétegre bontja a funkcionalitást: bizonyíték (Evidence) → tudás (Knowledge) → szabályozott végrehajtás (Governed execution).

  • A bizonyíték frissíti a self modelt: az ügynök feladatokhoz korlátozott mennyiségű releváns kontextust keres elő. Az így kapott kontextust az NVIDIA NemoClaw példája szerint használja tovább.
  • Két fő információtípust tárol a rendszer: Knowledge (személyek, projektek, prioritások, munkaszokások) és Judgment (az, hogy egy tétel figyelmet igényel-e, hol áll a rangsorban, és hogy a felhasználó figyelmen kívül hagyta-e).
  • A Markdown-alapú ügynökmemória a tudást tárolja; egy SQLite naplókönyv (ledger) pedig a kötelezettségeket, rangsorolásokat, korrigálásokat és audit eseményeket rögzíti. Így az ügynök ítéletei megmaradnak anélkül, hogy forrásüzenetekbe írnák őket (például olvasott státuszként, címkékként vagy mappákként).

A tárolt kontextus tájékoztathat egy cselekvést, de nem jogosít fel arra. Például ha egy memorialap megjegyzi, hogy egy kolléga Slacket részesít előnyben, az ügynök javasolhatja a Slack-kapcsolatot, de az üzenet elküldése és a külső rendszerek módosítása továbbra is hitelesítést, eszközjogosultságot, futtatási irányelvet és felhasználói jóváhagyást igényel.

Felhasználói szándék előtérbe helyezése a rövid távú sürgősséggel szemben

Sok bejövő kérés sürgősnek nevezi magát, de a sürgősség nem feltétlenül tükrözi a felhasználó tényleges prioritásait. Ezért az ügynök egy intent gate-tel dolgozik: a legmagasabb szintet a felhasználó kifejezett prioritásaihoz kapcsolódó kötelezettségek tartják fenn. A nyilvános recept példájában egy sürgős költségelszámolási igazolás látható marad, de rangsorolásban alacsonyabb helyet kap egy csendesebb, de kifejezett prioritáshoz kötődő kérésnél.

A NemoClaw képes ezt az értelmezést végrehajtani, míg determinisztikus kód kezeli a szintek méretét, túlcsordulási viselkedését és a rangsorolási szabályokat.

A felhasználói korrekció engedélyezése és auditálása

A perzisztens memória ugyanúgy megőrzi a hibás ítéleteket, mint a helyeseket. A recept lehetővé teszi, hogy egy kötelezettséget áthelyezzenek másik szintre vagy figyelmen kívül hagyjanak, és a későbbi futások megőrzik ezt a döntést. Minden módosítás hozzáfűző naplóként kerül rögzítésre (append-only audit trail).

Ismétlődő korrekciós mintákból kis, olvasható preferencia-szabályzat frissíthető. A felhasználók megtekinthetik, szerkeszthetik vagy törölhetik ezt a szabályzatot ahelyett, hogy a preferencia rejtve maradna a modell belső állapotában.

A visszajelzési ciklus látható: Agent judgment → User correction → Audit event → Preference update.

Mérések: hogyan javította a memória az ügynök teljesítményét

A memóriaalapú Chief of Staff beépítése a NemoClaw-ba mérhető javulást hozott több feladaton. Az example repositoryban található Agent Memory Benchmark az ügynök teljesítményét hasonlítja össze egy agentic retrieval-augmented generation (RAG) baseline-nal, amely többlépcsős visszakeresést végez a self model mellett.

Az értékelés főbb számai (Question counts, Agentic RAG baseline vs Self model):

MetrikaÖsszes kérdésAgentic RAG baselineSelf modelKülönbség
Overall accuracy18682.8%90.9%+8.1 pp
Hard questions3167.7%87.1%+19.4 pp
Tracking facts that changed over time560.0%100.0%+40.0 pp
Point-in-time reasoning633.3%66.7%+33.3 pp
Entity disambiguation1566.7%86.7%+20.0 pp
Multisource synthesis7387.7%94.5%+6.8 pp
Answered faithfully based on Corpus13100.0%92.3%-7.7 pp
Single-hop lookup3086.7%83.3%-3.3 pp
Citation coverage18692.5%97.8%+5.4 pp

A mérések azt mutatják, hogy a self model különösen erős a változó tények nyomon követésében és a nehéz kérdések kezelésében.

Futtatási határok és biztonság: NVIDIA OpenShell integráció

A szétválasztás futásidőben is érvényesül: az NVIDIA NemoClaw integrálja a példát az NVIDIA OpenShell biztonságos runtime-jával. Az OpenShell egy homokozóban futtatja az ügynököt, és szabályozza a fájlrendszerhez, folyamatokhoz és hálózathoz való hozzáférést. A menedzselt inferencia és MCP kapcsolatok esetén a hitelesítési adatok a homokozón kívül maradnak.

Ez azért fontos, mert a memória és a visszakeresett tartalom bemenet a modellnek, nem pedig megbízható biztonsági politika. Ha az ügynök félreértelmezi a kontextust vagy rosszindulatú utasításokat követ, az OpenShell korlátai csökkentik a hozzáférést és a potenciális károkat.

Hogyan kezdj hozzá

A memória tervezetének adaptálásához tekintsd át az open source Memory-Driven Chief of Staff receptet és a design proposalt az NVIDIA/nemoclaw-community GitHub repójában. A recept egy deployolható Hermes profilt csomagol, amely tartalmazza:

  • Strukturált memória sémát
  • Tartós kötelezettség naplót (ledger)
  • Korlátozott rangsorolási logikát
  • Felhasználói korrekciós és audit útvonalakat
  • Ütemezett memória-karbantartást
  • Szintetikus üzeneteket és memóriaoldalakat
  • Offline végigvezetést és unit teszt csomagot

A minta személyek, szervezetek, projektek és üzenetek kitaláltak; az offline walkthrough rögzített modell döntéseket használ. A recept jelenlegi fókusza a memória alapjain van: nem küld üzeneteket és nem módosít forrásrendszereket, így a tervezés megvizsgálható anélkül, hogy munkahelyi fiókokhoz kapcsolódna. Élő csatlakozók külön kezelést igényelnek hitelesítés, adatvédelem, megőrzés és törlés szempontjából.

Következtetés

A NVIDIA NemoClaw és a Memory-Driven Chief of Staff recept bemutatja, hogyan lehet strukturált, emberi olvashatóságú memóriát hozzáadni ügynökökhöz, hogy javuljon a kontextus fenntartása, a döntések nyomon követhetősége és a felhasználói bizalom. A kombináció — self model, ügyes rangsorolás, felhasználói korrekció és NVIDIA OpenShell által nyújtott futásidejű korlátok — lehetővé teszi, hogy az ügynök hasznosabb és biztonságosabb módon működjön vállalati környezetekben.

A további részletek és a példa kód megtalálható az NVIDIA NemoClaw és NVIDIA OpenShell dokumentációjában és az említett GitHub-repóban.