Sage Router
本地优先的AI模型路由工具
安装使用
复制下面这段提示词发给你的 AI(Claude / Cursor / TRAE / Codex / WorkBuddy 等),它会自动帮你完成安装:
帮我安装这个 AI Skill:Sage Router。 它的用途是:本地优先的AI模型路由工具 完整的 Skill 内容见:https://321skill.com/skills/sage-router-x-6/raw/index.md 请读取该页面内容,如果是 SKILL.md 格式直接安装,如果是 README 提炼核心 prompt 后安装。
提示词包含完整的 Skill 内容链接,AI 读取后即可完成安装。你也可以 查看完整内容 确认无误。
使用示例
'配置Sage Router,统一使用一个端点调用OpenAI、Anthropic和本地Ollama模型,并自动路由到延迟最低的提供商。' 它会自动安装Sage Router,编写配置文件,添加三个提供商,设置故障转移规则,然后启动本地路由服务,之后所有请求只需访问本地端口即可。
介绍
Sage Router 解决的是多AI模型提供商管理混乱的问题。当您需要在多个模型(如OpenAI、Anthropic、本地开源模型)之间切换时,传统方案需要分别配置API、维护多个端点、手动选择模型,效率低下且容易出错。Sage Router 提供一个统一端点,自动根据任务类型、延迟、成本等因素将请求路由到最合适的模型,让您无需关心底层细节。
使用方法非常简单:安装后,只需配置一次所有提供商和模型的API密钥、地址及优先级规则,之后所有请求都发送到同一个本地端点,路由由系统自动完成。支持动态权重、故障转移、本地模型优先等策略,也支持通过简单的配置文件调整路由逻辑。
适合智能体开发者、后端工程师、全栈开发者以及需要频繁调用多种AI模型进行测试或生产部署的团队。尤其适合那些希望降低API调用成本、优化响应速度,又不想绑定单一供应商的开发者和企业。
使用建议:首次使用时,建议先配置2-3个不同提供商进行测试,观察路由选择是否符合预期。注意,本地模型需要足够的硬件资源;若完全离网环境,需确保所有目标模型均为本地部署。另外,路由规则中的优先级和权重设置会直接影响效果,请根据实际场景反复调优。
核心特点
与同类路由工具相比,Sage Router 坚持本地优先——所有路由决策在本地执行,不依赖云端服务,同时支持一个端点同时对接远程API和本地模型,实现真正的混合路由。
注意事项
不适合需要完全离线且只使用单一模型的简单场景,因为路由层会引入少量额外开销。
常见问题
Sage Router 支持哪些模型提供商?
支持 OpenAI、Anthropic、本地 Ollama、Hugging Face 推理端点等,理论上兼容任何标准 OpenAI 兼容接口的提供商。
路由决策的依据是什么?
默认基于模型优先级、延迟、成本,也可自定义规则(如按任务类型、输入长度等)。
给 AI 助手的安装指引
如果你的 AI 编程助手(Claude Code、Cursor、TRAE 等)能看到这个页面,把下面这段发给它即可自动完成安装:
请访问 https://321skill.com/skills/sage-router-x-6/raw/index.md 读取 Sage Router 的原始 Skill 定义(Markdown 格式),按其中说明在我的环境里完成安装和配置。
AI 可直接读取的原始 Markdown 地址:/skills/sage-router-x-6/raw/index.md(查看排版版本)