Back to Home
RadarAI··Papers & Tech

datasette-llm 0.1a11 发布:支持 OpenAI 兼容端点

中文摘要

datasette-llm 0.1a11 发布,支持 OpenAI 兼容端点,可利用 Ollama 或 LM Studio 等本地服务驱动 Datasette Agent。

English Summary

datasette-llm 0.1a11 released with OpenAI-compatible endpoint support, enabling users to power Datasette Agent instances using local LLM services like Ollama or LM Studio.

Original Excerpt

Datasette 的中间插件 datasette-llm 发布 0.1a11,新增对 OpenAI 兼容端点的支持,可将 Datasette 配置为使用任何遵循该协议的 LLM 服务。这意味着用 LM Studio、Ollama 或刚发布 v1.0.0 的 llama.cpp 跑本地模型的用户,可通过 uvx 启动由本地模型驱动的 Datasette Agent 实例。