Sage Router

本地优先的AI模型路由工具,一个端点接入任意提供商

安装使用

复制下面这段提示词发给你的 AI(Claude / Cursor / TRAE / Codex / WorkBuddy 等),它会自动帮你完成安装:

帮我安装这个 AI Skill:Sage Router。
它的用途是:本地优先的AI模型路由工具,一个端点接入任意提供商
完整的 Skill 内容见:https://321skill.com/skills/sage-router-x-7/raw/index.md
请读取该页面内容,如果是 SKILL.md 格式直接安装,如果是 README 提炼核心 prompt 后安装。

提示词包含完整的 Skill 内容链接,AI 读取后即可完成安装。你也可以 查看完整内容 确认无误。

使用示例

'帮我配置一个Sage Router路由规则,当请求是代码生成时优先使用Claude,当请求是翻译时优先使用GPT-4,并设置成本上限为每月50美元。' Sage Router会生成对应的配置文件,并在后续调用中自动按规则路由请求,同时记录每次调用的Token消耗和成本。

介绍

Sage Router 是一个本地优先的 AI 模型路由工具,专门为需要灵活调用多个大语言模型的智能体开发者设计。它提供一个统一的 API 端点,根据你的配置自动将请求路由到最合适的模型提供商(如 OpenAI、Anthropic、本地部署模型等),无需手动管理多个 API 密钥和调用逻辑。

使用非常简单:只需安装 Sage Router,配置好各提供商的 API 密钥和路由规则(如成本优先、速度优先、模型能力优先),然后像调用普通 API 一样向 Sage Router 发送请求即可。它会自动分析请求内容、当前负载和成本,选择最优模型返回结果,同时支持本地优先策略,确保敏感数据不出本地。

适合智能体开发者、后端工程师和全栈开发者,尤其是那些需要同时管理多个模型、优化 Token 消耗、控制调用成本或保护用户隐私的场景。Sage Router 能帮你减少重复的 API 接入工作,提升开发效率。

建议在使用前明确路由策略(如成本优先或速度优先),并定期检查各提供商的使用配额。请注意,Sage Router 本身不提供模型推理能力,仅负责路由决策,你需要确保各提供商 API 可用。

核心特点

Sage Router 是本地优先的,路由决策完全在本地执行,无需依赖外部服务,同时支持自定义路由策略(成本、速度、能力等),比同类工具更灵活且保护隐私。

注意事项

不适合需要实时双向流式通信的场景,且路由规则需要用户预先配置,无法自动发现新模型。

常见问题

Sage Router 支持哪些模型提供商?

支持 OpenAI、Anthropic、Google、本地部署的 Ollama/vLLM 等主流提供商,可通过配置扩展。

如何配置路由规则?

通过 YAML 或 JSON 配置文件定义 provider 列表、优先级、成本权重等,Sage Router 会根据规则自动选择。

给 AI 助手的安装指引

如果你的 AI 编程助手(Claude Code、Cursor、TRAE 等)能看到这个页面,把下面这段发给它即可自动完成安装:

请访问 https://321skill.com/skills/sage-router-x-7/raw/index.md 读取 Sage Router 的原始 Skill 定义(Markdown 格式),按其中说明在我的环境里完成安装和配置。