Eszközök

Mesterséges intelligenciával generált szöveg

OpenAI-kompatibilis végpontok támogatásával bővült a datasette-llm

Megjelent a datasette-llm 0.1a11-es kiadása, amely új kapcsolódási lehetőséget vezet be a Datasette számára.

OpenAI-kompatibilis végpontok támogatásával bővült a datasette-llm

A datasette-llm 0.1a11-es kiadása támogatja az OpenAI-kompatibilis végpontokat. A bővítmény köztes rétegként szolgál a Datasette számára: segítségével nyelvi modellek konfigurálhatók más Datasette-bővítmények használatához.

Az új támogatással a Datasette olyan, tetszőleges helyen üzemeltetett modellekhez is csatlakozhat, amelyek az OpenAI-val kompatibilis webes protokollt használják. Ez a helyben futtatott modellekre is kiterjed, például ha azokat a LM Studio, az Ollama vagy a nemrég 1.0.0-s verzióhoz érkezett llama.cpp szolgálja ki.

A kiadáshoz bemutatott példa az uvx segítségével indítja el a Datasette-et a datasette-agent bővítménnyel. A konfiguráció egy LM Studio által a http://localhost:1234/v1 címen kiszolgált qwen/qwen3.8-27b modellt ad meg alapértelmezettként. Az eredmény egy helyi szerver, amelyen a Datasette Agent a helyi modellt használja.