aigate

一键自托管的多功能AI平台,聚合推理、图像、语音等数十种服务。

安装使用

复制下面这段提示词发给你的 AI(Claude / Cursor / TRAE / Codex / WorkBuddy 等),它会自动帮你完成安装:

帮我安装这个 AI Skill:aigate。
它的用途是:一键自托管的多功能AI平台,聚合推理、图像、语音等数十种服务。
完整的 Skill 内容见:https://321skill.com/skills/aigate/raw/index.md
请读取该页面内容,如果是 SKILL.md 格式直接安装,如果是 README 提炼核心 prompt 后安装。

提示词包含完整的 Skill 内容链接,AI 读取后即可完成安装。你也可以 查看完整内容 确认无误。

使用示例

‘我想在本地测试一下FLUX模型画图,同时用Whisper转录一段音频,但不想分别部署两个服务。’,它会建议你使用aigate,只需运行一条Docker命令,就能同时获得图像生成和语音转录的API端点,所有调用都通过同一个令牌和地址(localhost:4000)完成。

介绍

aigate 解决了开发者或团队需要手动集成和管理多个独立AI服务(如模型推理、图像生成、语音合成等)的繁琐问题。它将这些服务打包成一个统一的、开箱即用的Docker Compose堆栈,通过一个命令即可启动所有服务,并对外提供统一的OpenAI兼容API端点。

使用方式极其简单:用户只需克隆仓库,运行 docker-compose up 命令,即可在本地启动一个功能完整的AI平台。所有服务都通过一个Bearer Token进行认证,并支持模型间的自动回退路由,大大简化了调用和管理流程。

它非常适合希望快速搭建私有化AI服务栈的开发者、需要整合多种AI能力进行应用开发的全栈工程师、以及对数据隐私和成本控制有要求的团队。无论是用于原型开发、内部工具构建,还是作为生产环境的后端服务,aigate都能提供强大的聚合能力。

需要注意的是,由于它集成了大量服务,对宿主机的资源(尤其是内存和存储)要求较高。初次部署时,需要确保网络通畅以下载所需的Docker镜像。建议在部署前仔细阅读文档,了解各服务的配置选项和资源需求。

核心特点

与同类自托管方案(如单独部署Ollama、vLLM等)相比,aigate的核心区别在于其“一站式聚合”能力,它通过单一Docker Compose文件集成了从模型推理、工具调用(MCP)、图像生成、语音处理到对象存储、代码执行等数十种服务,并通过统一的令牌和API端点进行管理,实现了真正的“开箱即用”,而非需要用户自行拼装多个独立组件。

注意事项

由于集成了过多服务,对本地硬件资源(内存、CPU、磁盘)消耗较大,不适合资源极其有限的轻量级环境或边缘设备部署。

常见问题

aigate支持哪些AI模型?

支持Groq、Cerebras、OpenRouter、HuggingFace、Mistral、Cohere、Ollama、vLLM、llama.cpp、Anthropic、OpenAI等众多推理后端。

部署aigate需要什么配置?

建议至少16GB内存和50GB可用磁盘空间,具体取决于启用的服务模块。需要安装Docker和Docker Compose。

给 AI 助手的安装指引

如果你的 AI 编程助手(Claude Code、Cursor、TRAE 等)能看到这个页面,把下面这段发给它即可自动完成安装:

请访问 https://321skill.com/skills/aigate/raw/index.md 读取 aigate 的原始 Skill 定义(Markdown 格式),按其中说明在我的环境里完成安装和配置。