pi-litellm

为Pi集成LiteLLM,实现动态模型同步与成本跟踪

安装使用

复制下面这段提示词发给你的 AI(Claude / Cursor / TRAE / Codex / WorkBuddy 等),它会自动帮你完成安装:

帮我安装这个 AI Skill:pi-litellm。
它的用途是:为Pi集成LiteLLM,实现动态模型同步与成本跟踪
完整的 Skill 内容见:https://321skill.com/skills/pi-litellm/raw/index.md
请读取该页面内容,如果是 SKILL.md 格式直接安装,如果是 README 提炼核心 prompt 后安装。

提示词包含完整的 Skill 内容链接,AI 读取后即可完成安装。你也可以 查看完整内容 确认无误。

使用示例

“启用LiteLLM集成,并调用gpt-4和claude-3分别总结这篇文档。” 它会自动将请求路由到对应模型,并在一轮对话中返回两个结果,同时在后台精确记录两次调用的令牌消耗和预估费用,方便你对比效果与成本。

介绍

pi-litellm 是一个专为Pi AI平台设计的集成工具,它解决了开发者在使用多种大语言模型时面临的模型管理复杂、成本难以精确核算以及会话难以归集的问题。通过将LiteLLM的强大功能引入Pi,它允许用户在一个统一的界面中动态同步和调用来自不同供应商的模型,并自动记录每次调用的详细信息。

使用起来非常便捷。开发者只需通过npm安装此包,并在Pi的配置中启用它。之后,当在Pi中发起对AI模型的调用时,该Skill便会自动拦截请求,通过LiteLLM路由到指定的模型,并同时开始记录此次调用的令牌使用量、模型类型和预估成本等关键数据。所有会话可以根据项目或任务进行分组,便于后续的审计和分析。

这个Skill非常适合需要频繁使用多种大语言模型进行开发、测试或生产的团队和个人开发者。特别是那些对项目成本控制有严格要求,或需要为不同任务(如代码生成、文档编写、数据分析)灵活切换最优模型的用户,它能提供极大的便利。

在使用建议上,建议在项目初期就集成此Skill,以便从开始就积累完整的成本数据。需要注意的是,其成本跟踪的准确性依赖于LiteLLM官方提供的定价数据,对于自定义或私有化部署的模型,可能需要手动配置成本参数以确保数据准确。

核心特点

核心区别在于其深度集成Pi平台,实现了会话级别的自动分组与成本归因,而不仅仅是简单的模型代理;同时,它能动态同步LiteLLM支持的数百个模型列表,确保Pi用户总能访问到最新可用的模型。

注意事项

不适合仅使用单一固定模型且无需成本跟踪和会话分析需求的极简场景。

常见问题

pi-litellm 能跟踪哪些模型的成本?

能跟踪所有LiteLLM支持的模型,包括OpenAI、Anthropic、Cohere等主流供应商的模型成本。

安装后如何查看成本报告?

成本数据会记录在Pi的会话日志中,可以通过配置的日志输出或集成的监控工具进行查看和分析。

给 AI 助手的安装指引

如果你的 AI 编程助手(Claude Code、Cursor、TRAE 等)能看到这个页面,把下面这段发给它即可自动完成安装:

请访问 https://321skill.com/skills/pi-litellm/raw/index.md 读取 pi-litellm 的原始 Skill 定义(Markdown 格式),按其中说明在我的环境里完成安装和配置。