A nagy nyelvi modellek (LLM-ek) egyre gyakrabban alkalmazhatók valódi feladatok automatizálására — például Google-keresés indítása, helyi fájlok olvasása vagy Python-szkriptek futtatása. Az ilyen „agentikus” munkafolyamatokhoz a modelleknek meg kell tanulniuk helyesen és hatékonyan eszközöket (API-kat) használni. Ennek tanításához szükség van olyan adatkészletekre, amelyek egy adott felhasználói kérdéshez tartozó eszközhasználati láncokat és az eredményeket tartalmazzák. Korábbi munkáinkban, például az InstructPipe-nál, az értékelési adatokat kézzel annotáltuk, de a kézi címkézés nem skálázható nagyobb, finomhangoláshoz szükséges adatbázisok előállításához.
Korábbi automatikus megközelítések, például a ToolBench és a ToolACE, úgy működnek, hogy véletlenszerűen kiválasztott API-kból kiindulva először generálnak hipotetikus felhasználói utasításokat, majd egy depth‑first search (DFS) alapú ügynököt futtatnak, amely próbálkozik és téved, hogy megtalálja a megoldó eszközláncot. Ez a kérdés‑első paradigma viszont hatékonysági korlátokba ütközik: nehéz kiválasztani a hasznos pályákat a kiterjedt ügynökök feltérképezéséből, és drága mind időben, mind számításban.
ToolGrad: válasz‑előfutamú megközelítés
Az ACL 2026 konferencián bemutatott „ToolGrad: Efficient Tool‑use Dataset Generation with Textual ‘Gradients’” című munkában a szerzők egy alternatív, válasz‑első paradigmát javasolnak. A ToolGrad először explicit, földtruth (ellenőrzött) eszközhasználati láncot generál, majd ehhez illeszti a felhasználói lekérdezést. Az intuíció egyszerű: egy konkrét megoldáslánc egyértelműbb, mint egy hipotetikus kérés, ezért az annotáció (eszközhasználattól a lekérdezésig) egyszerűbb és csak egy LLM‑lépést igényel.
A szerzők állítása szerint ez az answer‑first megközelítés képes bonyolultabb, hosszú távú eszközhasználati példák előállítására alacsonyabb költség mellett, és az ilyen adatokon finomhangolt modellek jobban teljesítenek a baselines módszerekhez képest; sőt, out‑of‑distribution (OOD) feladatokban is elérhetik vagy megközelíthetik a korszerű, zárt forrású LLM-ek teljesítményét.
Szöveges „grádiens” és iteratív láncépítés
A ToolGrad a TextGrad korábbi elképzelését veszi át: a hagyományos gépi tanulásban a numerikus gradiensek irányítják a súlyfrissítéseket; a TextGrad viszont LLM‑kritikát, azaz sima szöveges, részletes visszajelzést ad („textual gradients”), amellyel egy prompt javítható. A ToolGrad ezt az ötletet nem prompt‑optimalizálásra, hanem szintetikus adatgenerálásra alkalmazza: a szöveges visszajelzések iránymutatásként szolgálnak, és iteratívan építik fel a működő, összetett API‑munkaflow‑kat a nagy API‑könyvtárból.
A ToolGrad keretrendszer felépítése
ToolGrad négy egymást követő modulból áll, amelyek iteratívan javasolnak, végrehajtanak, kiválasztanak és frissítenek:
- API Proposer: minden iterációban a mintavételezett API‑készletből leszűkít néhány ígéretes bővítési jelöltet az aktuális munkafolyamathoz.
- API Executors: párhuzamosan futtatják a kiválasztott API‑hívásokat és részletes végrehajtási riportokat készítenek.
- API Selector: áttekinti a riportokat, kiválasztja az egyetlen legjobban teljesítő API‑hívást — ezt tekintik a „szöveges grádiensnek”, mert irányt ad a továbblépéshez —, és hozzáfűzi azt a munkafolyamathoz.
- LLM Updater: végül az LLM frissíti a szintetikus felhasználói lekérdezést és a modellválaszt, hogy azok illeszkedjenek az új API‑készlethez.
Az iterációk megismétlésével keletkezik egy adatminta: a felhasználói kérdés, egy ellenőrzött API‑munkafolyamat és a végső AI‑válasz.
Kísérletek és eredmények
Adatgenerálás hatékonysága A szerzők a ToolBench API‑adatbázist használták, amely több mint 16 000 valós API‑t tartalmaz, és összehasonlították a hagyományos query‑first DFS alapú generálást a ToolGrad answer‑first megközelítésével. A vizsgálat szerint a ToolGrad képes komplexebb eszközhasználati példákat előállítani magasabb sikerarány mellett, miközben alacsonyabb generálási költséget igényel.
Berkeley Function Calling Leaderboard (BFCL) Kis léptékű ToolGrad adatbázist is készítettek (ToolGrad‑500), a ToolBench API‑készlete alapján. Ezzel a ToolGrad‑500 adathalmazzal finomhangolták a Gemma‑3 modellek különböző méreteit (1B, 4B és 12B), a finomhangolt verziókat ToolGrad‑1B, ToolGrad‑4B és ToolGrad‑12B néven említik. Ezeket a modelleket a Berkeley Function Calling Leaderboardon (BFCL) tesztelték, amely egy ToolBench‑tól eltérő eszközkészletet használó benchmark.
A finomhangolt modelleket több összehasonlítással értékelték: (1) alapmodellekkel finomhangolás nélkül, (2) korszerű zárt forrású modellekkel (Gemini, GPT és Claude), valamint (3) eszközhasználatra specializált állómodellekkel (ToolACE, Hammer‑2.1‑7B). A főbb megállapítások:
- Konzisztens javulás: a Gemma‑3 modellek ToolGrad‑500 adaton való finomhangolása minden vizsgált paraméterméreten javította az eszközhasználati teljesítményt.
- Zárt forrású modellek megközelítése: a ToolGrad‑12B modell 83,1 pontot ért el a BFCL‑en, amely összevethető az akkori top zárt modellekkel: gemini‑2.5‑pro (83,2), claude‑4.5 Opus (82,8) és gpt‑5 (74,4).
- Önszaporodó javulás: a ToolGrad‑500 adatot gemini‑2.5‑flash‑lite generálta; érdekes módon a Gemma‑3‑12B, amelyet ezen adaton finomhangoltak, felülmúlta a saját „teacher” modelljét (a gemini‑2.5‑flash‑lite‑ot).
- Más nyílt forrású modellek fölé emelkedik: a ToolGrad‑12B világosan jobb teljesítményt mutatott más nyílt forrású, eszközhasználatra specializált modelleknél, köztük a ToolACE‑nál, amely egy fejlettebb API‑adatbázison volt finomhangolva.
Következtetések és jövőbeli irányok
A ToolGrad azt mutatja, hogy egy answer‑first paradigma és a szöveges „grádiensek” használata hatékonyabb, megbízhatóbb módon állíthat elő magas minőségű eszközhasználati adatkészleteket. A keretrendszer majdnem 100%-os pass rate‑et ér el az adatgenerálásban, lehetővé teszi, hogy viszonylag kis modellek is kiválóan teljesítsenek, és demonstrálja, hogy egyes „diák” LLM‑ek képesek meghaladni a „tanítójukat”.
A szerzők további munkaként javasolják a ToolGrad skálázását nagyobb, dinamikusabb API‑ökoszisztémákra, valamint a módszer kiterjesztését folyamatos, on‑the‑fly tanulást támogató, személyre szabott rendszerekre. Mivel az agentikus munkafolyamatok egyre inkább behálózzák a vállalati és hétköznapi feladatokat, az ehhez hasonló keretek alapot teremtenek gazdaságosan üzemeltethető, képzett digitális ügynökök kiképzéséhez.
Köszönetnyilvánítás
A kutatást elsősorban Zhongyi Zhou végezte Google‑nál tett vendégkutatói időszaka alatt. További fontos közreműködők: Kohei Uehara, Haoyu Zhang, Jingtao Zhou, Lin Gu, Zheng Xu és Tatsuya Harada. Stratégiai iránymutatásért és szakmai lektorálásért Adarsh Kowdle‑nak és Shahram Izadi‑nak mondanak köszönetet.
