A mai napon megjelent az LLM 0.32, a projekt eddigi legjelentősebb frissítése az indulás óta. Az új kiadás számos újítást hoz: látható érvelési (reasoning) nyomok megjelenítését, szerveroldali szolgáltatóeszközök támogatását, átdolgozott, tartalom-alapú (content-addressable) SQLite naplózást, új modelleket és az OpenAI Responses API által lehetővé tett funkciókat. Emellett frissítéseket adott ki a szerző az llm-anthropic, llm-gemini és llm-openrouter bővítményekhez is.

Főbb újdonságok a CLI felhasználóknak

• A reasoning modellekkel végzett hívások mostantól megjelenítik a modellek érvelési nyomait a standard erroron, így látható, mit "gondolnak" a modellek anélkül, hogy ez bekerülne a standard outputba, amely például pipe-olható más eszközök felé. A viselkedés kikapcsolható a -R/--hide-reasoning kapcsolóval.

• Az LLM alapból támogatja a GPT-5.6 modellcsaládot, és az llm "prompt" parancs új alapértelmezett modellje a költséghatékony GPT-5.6 Luna.

• Mostantól a LLM-hívások képesek szerveroldali eszközöket használni különböző szolgáltatóktól. OpenAI például szerveroldali kódfuttatási környezetet (CodeInterpreter) biztosít, amelyet az LLM képes meghívni:

  llm --tool CodeInterpreter 'Show current python and SQLite versions'

  OpenAI emellett WebSearch eszközt is kínál.

• Az llm-anthropic plugin új szerveroldali eszközöket ad hozzá: WebSearch, WebFetch, CodeExecution és AnthropicMCP. Az AnthropicMCP segítségével például MCP hívásokat lehet indítani külső végpontok felé egyetlen kérés/válasz interakció részeként:

  llm -m claude-sonnet-5 -T 'AnthropicMCP("https://datasette.simonwillison.net/-/mcp")' '' 'how many rows in the blog_blogmark table?'

  Ez az Anthropic számára lehetővé teszi, hogy MCP hívásokat hajtson végre a szerző új datasette-mcp pluginje felé.

• Új parancs: llm openai endpoint — ez egy egy soros eszköz promptok futtatására bármilyen OpenAI-kompatibilis végponton. Ezek a hívások nem kerülnek naplózásra, így kényelmesek egyszeri tesztekhez és helyi végpontokhoz.

  Például a szerző Gemma 4 12B modellen futó LM Studio példányát így használja localhost-on keresztül UVX-szel, és közben a llm-tools-quickjs plugin is be van vonva:

  uvx --with llm-tools-quickjs
  llm openai endpoint http://localhost:1234/v1 -m google/gemma-4-12b
  -T QuickJS 'Use QuickJS to multiply 3434 * 2434' --td

Python API: teljes üzenettörténettel hívható prompt és eseménystream

• Korábban az LLM Python API megkövetelte egy conversation létrehozását és üzenetek egyenkénti küldését. Ez az absztrakció eltért az LLM-ek tényleges működésétől, ahol minden kérés a teljes üzenettörténetet viszi magával. Az új kiadás bevezeti a model.prompt(messages=[]) paramétert, amely lehetővé teszi az egész üzenetsor egyszerre történő átadását. Példa a használatra a kiadási megjegyzésben található (röviden: system/user/assistant üzenetek egy listában).

• A korábbi viselkedés, amely promptonként iterálható sztringeket adott vissza, nem kezelte jól azt a sokféle választ, amit manapság a modellek adhatnak (érvelés, szöveg, eszközhívások, mellékletek). Az LLM 0.32 most eseményalapú streamelést támogat: a model.prompt(...).stream_events() visszaadhat típus szerinti eseményeket (pl. reasoning, text), és a kliens ennek megfelelően dolgozhat fel gondolatokat, szöveget vagy más eseményeket.

• Ezeket a lehetőségeket kombinálva a szerző kiadta a llm-chat-completions-server plugint, amely egy részben kompatibilis OpenAI chat-completions API szervert biztosít. Telepítés és indítás példa:

  llm install llm-chat-completions-server llm chat-completions-server --port 9000

  Server is now running on http://127.0.0.1:9000/v1

  Ezután a llm openai endpoint parancs segítségével lehet helyi szerver felé promptokat futtatni:

  llm openai endpoint http://127.0.0.1:9000/v1 'hello' -m gpt-5.4-mini

Tartalom-alapú üzenettárolás és naplózás

• Az olyan API-k esetén, ahol az üzenetsor minden kérésnél bővül, problémát jelentene minden fordulót teljes JSON-nal naplózni. Erre a megoldás az új, Git-hez hasonló tartalom-alapú (content-addressable) üzenettár.

• A dokumentációban látható sémát a llm logs és llm logs --json parancsok most visszaalakítják ember számára fogyasztható formába.

Egyéb frissítések és pluginok

• A kiadás sok további változtatást tartalmaz; a 0.32-hez kapcsolódó kiadási megjegyzések részletesek, és a korábbi kiadási jelöltekről (0.32rc2, 0.32rc, 0.32a3, 0.32a2, 0.32a0) is találhatók információk.

• A meglévő LLM pluginoknak működniük kell, azonban azok a bővítmények, amelyek extra modelleket biztosítanak, frissítésre szorulnak 0.32-re, hogy teljes mértékben részt tudjanak venni az új streaming eseményrendszerben. A dokumentációban van útmutató a Structured messages and streaming events megvalósításához.

• A szerző frissítései saját bővítményei közül:

  • llm-anthropic 0.26: hozzáadott támogatás a Claude 5 modellcsaládhoz, valamint WebSearch, WebFetch, CodeExecution és AnthropicMCP szerveroldali eszközökhöz.
  • llm-gemini, llm-openrouter és llm-mistral: ezeknél a kiadások közel vannak, hamarosan érkeznek frissítések.

Az "ügynök" (agent) fogalma és további irányok

• Számos alsó szintű eszközváltoztatást a Datasette Agent igényei hajtottak. A szerző korábban tartózkodott az "agent" szó használatától, de 2025 szeptemberében elfogadta a "An LLM agent runs tools in a loop to achieve a goal" megfogalmazást, és ezzel könnyebb volt nem kerülni a kifejezést.

• Az új eszközláncok képesek emberi jóváhagyásra várni és egy tárolt üzenettörténetből folytatni a működést — mindkettő szükséges a Datasette Agent működéséhez.

• Ma az LLM sok szempontból "agent-formát" kezd ölteni: a CLI lehetővé teszi különböző források és modellek eszközeinek egy sorba rendezését, míg a Python könyvtár elég erős ahhoz, hogy rendszereket mint a Datasette Agent vagy az llm-coding-agent felépítsen. A következő verzió talán magába olvaszthatja az "agent" fogalmát a magkönyvtárba, bár a szerző még vizsgálja ennek pontos formáját.

Címkék

projects, releases, ai, openai, generative-ai, llms, llm, anthropic