pi-localllm-provider
向导式配置本地大语言模型服务
安装使用
复制下面这段提示词发给你的 AI(Claude / Cursor / TRAE / Codex / WorkBuddy 等),它会自动帮你完成安装:
帮我安装这个 AI Skill:pi-localllm-provider。 它的用途是:向导式配置本地大语言模型服务 完整的 Skill 内容见:https://321skill.com/skills/pi-localllm-provider/raw/index.md 请读取该页面内容,如果是 SKILL.md 格式直接安装,如果是 README 提炼核心 prompt 后安装。
提示词包含完整的 Skill 内容链接,AI 读取后即可完成安装。你也可以 查看完整内容 确认无误。
使用示例
“帮我配置一个本地 Ollama 上的 Llama 3 模型。” 它会启动一个配置向导,依次询问您服务器地址(通常是 http://localhost:11434)、模型名称等信息,完成后您即可像使用 OpenAI 一样与本地模型对话。或者当您更换为 vLLM 服务时,同样可以通过此向导快速更新配置。
介绍
该 Skill 解决了用户在本地部署和使用各类 OpenAI 兼容的大语言模型服务器(如 vLLM, Ollama, LM Studio, llama.cpp 等)时,配置过程繁琐、参数复杂的问题。它提供了一个交互式的向导界面,引导用户一步步完成模型提供商(Provider)的设置,无需手动编写复杂的配置文件或记忆各种 API 参数。
用户安装此 Skill 后,在需要配置本地 LLM 时,只需启动向导,根据提示选择或输入服务器地址、模型名称、API 密钥(如需要)等信息,即可快速完成配置并投入使用。整个过程清晰直观,降低了技术门槛。
它非常适合希望在本地环境中灵活切换或测试不同开源大模型的研究者、开发者,以及注重数据隐私、希望将 AI 能力集成到本地工作流但又不熟悉底层配置细节的工程师和个人用户。
使用建议:在开始前,请确保目标本地 LLM 服务器已成功启动并处于可访问状态。对于不同服务器(如 Ollama 与 vLLM),所需的配置参数可能略有差异,请根据向导提示准确填写。注意,此工具仅负责连接配置,不包含模型本身的下载与部署。
核心特点
核心区别在于采用交互式向导(Wizard)引导配置,极大简化了连接各类本地 LLM 服务的流程,用户无需记忆不同服务器的 API 差异和手动编写配置;同时它支持一个 Skill 统一对接 vLLM、Ollama、LM Studio、llama.cpp 等多种主流本地服务,提供了通用的一站式配置入口。
注意事项
此 Skill 仅用于配置连接已部署好的本地模型服务,不具备模型部署、管理或性能优化的功能。
常见问题
支持哪些本地大模型服务?
支持 vLLM, Ollama, LM Studio, llama.cpp 等任何提供 OpenAI 兼容 API 的本地服务器。
需要提前安装模型吗?
需要,您需要先自行在对应的本地服务器(如 Ollama)中下载并启动所需模型,本工具仅负责连接配置。
给 AI 助手的安装指引
如果你的 AI 编程助手(Claude Code、Cursor、TRAE 等)能看到这个页面,把下面这段发给它即可自动完成安装:
请访问 https://321skill.com/skills/pi-localllm-provider/raw/index.md 读取 pi-localllm-provider 的原始 Skill 定义(Markdown 格式),按其中说明在我的环境里完成安装和配置。
AI 可直接读取的原始 Markdown 地址:/skills/pi-localllm-provider/raw/index.md(查看排版版本)