A llm könyvtár 0.33-as kiadása több fontos változtatást hoz: frissítést az OpenAI Python kliensre, HTTP-kliens könyvtár váltást, bővített kulcskezelést az embeddingeknél, valamint néhány kényelmi fejlesztést a prompt sablonok és a Responses API-t utánzó modellekhez.
OpenAI Python 3.x és httpx2
A csomag mostantól az OpenAI Python könyvtár 3.x-es verzióját használja, és az HTTP kliens függőséget a korábbi httpx-ről átállította httpx2-re. Ezek a változtatások a HTTP kommunikáció és a hivatalos OpenAI Python kliens újabb verziójával való kompatibilitást szolgálják. (Kapcsolódó issue-k: #1608, #1631.)
A 0.32.1 gyorsjavítást a szerző egy nappal korábban kiadta, de a 0.33 átfogóbb megoldást nyújt a felmerült problémákra.
Kulcskezelés az embedding parancsoknál és API-nál
A parancssori eszközök llm embed és llm embed-multi mostantól elfogadják a --key kapcsolót. Emellett a Python API szintjén a következő metódusok támogatják a key= paramétert: EmbeddingModel.embed(), EmbeddingModel.embed_multi(), Collection.embed() és Collection.embed_multi().
A megoldás úgy működik, hogy a per-hívásra megadott kulcsot továbbadja az embedding pluginoknak anélkül, hogy megváltoztatná a megosztott modell állapotát. A meglévő pluginok, amelyek a self.key-t olvassák, kompatibilitási visszafallal továbbra is működnek. A közreműködők között köszönet illeti ChrisJr404-at a hozzájárulásért. (Kapcsolódó issue-k: #757, #1620.)
Általános következmény: az embedding modellek most ugyanazt a kulcskezelési mintát követik, mint a szokásos LLM modellek, egyszerűsítve ezzel a használatot és a per-hívás konfigurációt.
Többször ismételhető prompt-sablonok (-t/--template)
A llm prompt -t/--template opció most ismételhető — az ismételt sablonokat sorrendben kombinálja a rendszer. Ennek eredményeként egy sablonból származó modellkonfiguráció és opciók együtt használhatók egy másik sablon promptjával. A kiadás dokumentációja példát is mutat erre a mintára:
- llm -m gpt-5.6-luna -o reasoning_effort high --save lhigh
- llm "Generate an SVG of a pelican riding a bicycle" --save pelican
- llm -t lhigh -t pelican
Ez lehetővé teszi, hogy előre becsomagolt sablonokkal alapértelmezett model- és opciókészleteket definiáljunk, majd ezeket más promptokkal kombináljuk.
Responses-szerű modellek: reasoning_summary opció
A Reasoning-capable Responses API modellek mostantól támogatnak egy reasoning_summary opciót, amely értékei: auto, concise és detailed. Ezt az opciót használhatjuk az llm openai endpoint --responses parancsával. Ez különösen hasznos, ha több olyan modellt tesztelünk, amelyek a Responses API viselkedését imitálják. (Kapcsolódó issue: #1600.)
Összegzés
A 0.33-as kiadás fő célja a kompatibilitás és a használhatóság javítása: frissített OpenAI kliens, httpx2-re váltás, finomított kulcskezelés az embeddingeknél, valamint kényelmi fejlesztések a sablonok és a Responses-szerű modellek kezelésében. A kiadás számos kapcsolódó issue-t és egy gyorsjavítást követő átfogóbb megoldást foglal magában.
