diegosouzapw/OmniRoute

产品定位

OmniRoute 的定位差异在于本地优先：服务运行在本机，密钥以 AES-256-GCM 加密存储，不依赖云端中转。它与通用 LLM 聚合平台的区别是零配置开箱即用——安装后无需 API Key 或注册即可调用预置的无密钥提供商。选型时需注意：免费 token 总量（官方称约每月 15.1 亿）为目录计算值，每两周重新审计且可能上下波动；token 节省比例 15–95% 属厂商声明口径，实际效果取决于工作负载。项目由社区共建、持续更新，适合偏好自托管与开源方案的用户。

适合用户

• 开发者
• 使用 AI 编码工具的程序员
• 希望降低 LLM API 成本的用户

功能亮点

• 统一 OpenAI 兼容端点

  通过单一本地端点（默认 http://localhost:20128/v1）接入 352 个提供商、1200+ 模型。

• 配额感知自动回退

  在订阅、API Key、廉价、免费四层提供商之间自动级联回退，保持请求持续可用。

• RTK + Caveman token 压缩

  官方称堆叠压缩可节省 15–95% token（约 89% 平均值）。

• MCP 与 A2A 支持

  支持 MCP（官方称含 110 个工具）与 A2A 协议。

• 零配置开箱即用

  安装后无需 API Key 或注册，预置无密钥提供商 OpenCode Free，调用 auto 模型即可获得响应。

访问与价格

可用状态: 当前可用

价格信息: 开源

支持平台: API, 自托管

价格说明: MIT 开源项目，本身免费；官方称 352 个提供商中有 150+ 提供免费层，免费 token 总量约每月 15.1 亿（每两周重新审计，可能上下波动）。

官方入口

• GitHub 仓库
• 官方网站
• npm 包 omniroute
• Docker Hub 镜像

来源核验

• github.com