@gaurav-321/pi-local-llm
为Pi AI提供本地大模型调用与动态发现能力
安装使用
复制下面这段提示词发给你的 AI(Claude / Cursor / TRAE / Codex / WorkBuddy 等),它会自动帮你完成安装:
帮我安装这个 AI Skill:@gaurav-321/pi-local-llm。 它的用途是:为Pi AI提供本地大模型调用与动态发现能力 完整的 Skill 内容见:https://321skill.com/skills/gaurav-321-pi-local-llm/raw/index.md 请读取该页面内容,如果是 SKILL.md 格式直接安装,如果是 README 提炼核心 prompt 后安装。
提示词包含完整的 Skill 内容链接,AI 读取后即可完成安装。你也可以 查看完整内容 确认无误。
使用示例
“用我本地的Llama 3模型,帮我总结这篇技术文档。”,它会通过llama-swap provider将请求路由到你本地运行的Ollama服务中的指定模型,并返回由本地模型生成的总结内容,全程数据不离开你的电脑。
介绍
这个Skill为Pi AI平台提供了一个名为“llama-swap”的模型提供者,核心解决了用户希望使用本地部署的大型语言模型(LLM)而非云端API的需求。它允许Pi AI客户端动态发现并连接到用户本地运行的、兼容Ollama或类似服务的LLM,从而在本地环境中执行AI对话和任务。
使用方式通常是在本地启动一个兼容的LLM服务(如Ollama),然后通过安装此Skill并配置Pi客户端,使其能够识别并使用本地服务。用户无需修改Pi的核心代码,通过扩展机制即可接入。
它非常适合注重数据隐私、希望完全离线使用AI、或拥有强大本地计算资源(如配备高端显卡的PC)的开发者、研究人员和技术爱好者。对于希望将Pi AI与特定本地微调模型结合使用的场景也很有价值。
使用前请确保本地LLM服务已正确安装并运行,且网络设置允许Pi客户端访问。不同本地模型的性能差异较大,响应速度和效果取决于本地硬件。初次配置可能需要一定的技术背景来排查连接问题。
核心特点
核心区别在于实现了“动态模型发现”,能自动检测本地运行的可用模型,而同类工具可能需手动配置模型端点;同时,它作为Pi平台的官方扩展模式(llama-swap provider)集成,而非一个独立的外部工具。
注意事项
不适合没有本地计算资源、追求极致响应速度或完全不懂命令行操作的用户。
常见问题
支持哪些本地大模型?
支持通过Ollama等兼容API运行的模型,如Llama、Mistral等系列。
需要安装Ollama吗?
是的,通常需要先安装并运行Ollama来管理本地模型。
给 AI 助手的安装指引
如果你的 AI 编程助手(Claude Code、Cursor、TRAE 等)能看到这个页面,把下面这段发给它即可自动完成安装:
请访问 https://321skill.com/skills/gaurav-321-pi-local-llm/raw/index.md 读取 @gaurav-321/pi-local-llm 的原始 Skill 定义(Markdown 格式),按其中说明在我的环境里完成安装和配置。
AI 可直接读取的原始 Markdown 地址:/skills/gaurav-321-pi-local-llm/raw/index.md(查看排版版本)