每日开源 · 113 期

2026-07-27 · 早间篇

🌐

OmniRoute

by diegosouzapw

免费 AI 统一网关：一个端点接入 290+ 提供商、500+ 模型，配额耗尽或提供商故障时 Combo 自动无缝切换。18 种路由策略（成本优先/速度优先/质量优先/Fusion 面板裁决），Token 压缩 15-95%，内置 104 工具 MCP Server + A2A Agent 协议，团队 Quota-Share 公平调度。MIT 开源，今日 Trending +1,648 Stars 🔥

25.0k**+1,648**

Stars

5,620

Commits

61

Pull Requests

MIT

License

TypeScriptAI Gateway290+ ProvidersToken CompressionMCP + A2A

⚠️ 本文基于公开仓库信息与官方文档整理，仅供技术学习参考。

🎯 一句话定位

OmniRoute 是一个免费 AI 统一网关。它将 290+ 个 AI 提供商、500+ 个模型聚合到一个 OpenAI 兼容的 /v1 端点背后。开发者不再需要对接几十个 SDK、记住几十个 rate limit——只需把 API 地址指向 OmniRoute，它会自动处理路由、故障转移、配额管理、Token 压缩和成本优化。内置 104 个工具的 MCP Server 和 A2A Agent 协议，让 AI Agent 也能直接调用。

🔥 核心机制：Combo 自动路由链

1. 什么是 Combo？

Combo 是 OmniRoute 的旗舰功能：一条自动路由链。当你配置的模型配额耗尽、提供商宕机或成本飙升时，Combo 会静默切换到链中的下一个模型，应用零感知。

零配置 auto 模式：设置模型为 auto，OmniRoute 会从你连接的所有提供商中实时构建虚拟 Combo，按 12 因子动态评分。

2. 18 种路由策略

1. priority

按顺序耗尽每个目标

2. fill-first

填满每个配额再切换

3. weighted

按权重随机分配

4. round-robin

轮询循环

5. p2c

Power-of-two 随机负载均衡

6. least-used

选当前负载最低的目标

7. cost-optimized

最小化每次请求成本 💸

8. headroom

选剩余配额最多的目标

9. reset-aware

按配额重置时间排序

10. context-relay

长对话跨目标上下文接力 🧠

11. context-optimized

按当前上下文大小选最优

12. lkgp

粘滞到最后成功的目标

13. auto

12 因子实时综合评分 🤖

14. fusion

多模型面板 + Judge 裁决 🧬

15. pipeline

链式步骤，输出喂入下一步 🔗

16-18. 其他

random / strict-random / reset-window

3. Quota-Share：团队配额公平调度

同一个上游账号（如一个 Codex Pro、一个 Kimi Key）被团队多人共用时，突发请求可能烧光整个配额。Quota-Share 用 DRR 调度算法将时间配额公平分配给池中的每个 Key，且是 work-conserving（空闲成员的份额会被借出，不浪费）。

维度	能力
Allocation weight
每个 Key 的池内权重，如 50/30/20
Dimensions
按 %、请求数、Token 数、$ 追踪，5h/7d/单模型窗口
Policy
hard（超量阻断）/ soft（降级）/ burst（用空闲额度）
Cap
每个 Key 的绝对上限，独立于模式

4. 三层韧性保障

• 🛡️

  请求层：重试、超时、熔断、降级

• 🔄

  Combo 层：自动切换到备用模型，零中断

• 📊

  配额层：Quota-Share 防止单 Key 耗尽全池

🗜️ Token 压缩：15-95% 节省

OmniRoute 不是简单转发——它会在请求到达上游前对 Token 进行可插拔压缩，最高可省 95%。

压缩引擎	机制	典型节省
RTK (Rust Token Killer)
命令输出智能过滤压缩
60-90%
Caveman
多语言语义压缩（含文言文）
20-50%
LLMLingua-2
提示语压缩，保留关键信息
30-50%
Ultra two-tier
双层压缩策略
40-70%
omniglyph
视觉/多模态 Token 压缩
15-40%
GCF v3.2
通用压缩框架
25-55%

11 种可组合引擎 + Compression Studio 可视化编辑器，可按步骤拖拽组合。默认开启 inflation guard 防止过度压缩导致语义损失。

🧰 MCP Server + A2A Agent 协议

OmniRoute 不仅是网关——它本身也是一个 Agent 原生基础设施：

• 🛠️

  MCP Server：104 个工具，3 种传输（stdio / SSE / Streamable HTTP），31 个作用域，AI Agent 可直接查询 provider 状态、配额、成本、路由决策

• 🤝

  A2A 协议：6 个技能，JSON-RPC 2.0，支持 Agent 间协作调度

• 🧠

  Memory：可选 FTS5 + 向量记忆，int8 量化 + 类型衰减，每请求可禁用

• 🛡️

  Guardrails：每次 LLM 路由都经过 Prompt 注入检测 + PII 过滤 + 视觉安全审查

• 🌐

  Free tiers 聚合：Dashboard 实时展示 43 个 provider pools、460+ 模型的免费额度，每月约 15.3 亿免费 Token

📊 竞品对比

特性	OmniRoute	LiteLLM	OpenRouter	Portkey
提供商数量	290+
~100
~200
~100
免费提供商	90+（40+ 永久免费）
1-5
5-10
1-3
路由策略	18 种
2-3
2-3
1-3
Token 压缩	15-95%
无
无
20-40%
MCP Server	104 工具
✗
✗
✗
A2A Agent 协议	6 skills
✗
✗
✗
记忆系统	FTS5 + Vector
✗
✗
✗
Guardrails	PII + 注入 + 视觉
✗
✗
基础
Cloud Agents	Codex/Cursor/Devin/Jules
✗
✗
✗
TLS 指纹隐身	JA3/JA4
✗
✗
✗
多平台	Web/Desktop/Termux/PWA
Web
Web
Web
国际化	43 语言
0-2
0-2
0-2

🚀 零配置接入：一行命令

OmniRoute 提供 setup-* 命令，一键配置 12+ 款 AI 编码工具：

# 启动本地网关（默认端口 20128） npx omniroute launch # 或一键配置 Codex CLI omniroute setup-codex # Claude Code、Cursor、Aider、Continue 等都支持 omniroute setup-claude omniroute setup-cursor omniroute setup-aider

配置完成后，所有工具只需把 API base URL 改为 http://localhost:20128/v1，即可自动享受多提供商路由、故障转移和 Token 压缩。

🎯 适合谁用

• 👨‍💻

  AI 应用开发者：不想对接 N 个 SDK，一个端点搞定所有模型调用

• 🏢

  企业团队：Quota-Share 让多个项目/成员共享订阅，避免配额争抢

• 🤖

  Agent 开发者：MCP Server + A2A 协议让 Agent 直接查询路由状态和成本

• 💰

  成本敏感用户：聚合 90+ 免费提供商，Dashboard 实时追踪免费额度

• 🔧

  CLI 重度用户：Claude Code、Codex、Aider、Roo Code 等全部兼容

✅

核心优势

• 规模惊人：290+ 提供商、500+ 模型，免费额度聚合每月约 15.3 亿 Token

• 18 种路由策略：从成本优先到 Fusion 多模型裁决，覆盖几乎所有调度场景

• 三层韧性：请求重试 + Combo 自动切换 + Quota-Share 配额隔离，几乎不会断流

• Token 压缩 15-95%：11 种可插拔引擎，直接降低上游 API 成本

• Agent 原生：104 工具 MCP Server + A2A 协议 + 记忆系统，不仅是网关更是 Agent 基础设施

• 43 语言国际化：真正的全球开源项目，社区覆盖极广

• MIT 完全免费：可自托管、可商用、无功能限制

⚠️

需要注意

• TypeScript/Node.js 生态：非 Python/Go 项目，对纯 Python 后端团队需要额外适配

• 功能繁多配置复杂：18 种路由策略 + 大量高级功能，上手有一定学习曲线

• 免费额度实时变化：提供商随时调整免费政策，Dashboard 数据每两周重新审计

• 桌面端仍在完善：PWA/Termux 支持良好，但原生桌面客户端体验不如 Web

🌟 去 GitHub 点亮 Star

📎 信息来源

1. GitHub 仓库：github.com/diegosouzapw/OmniRoute

2. 官方文档：docs 目录

3. 路由策略详解：AUTO-COMBO.md

4. 压缩引擎文档：COMPRESSION_ENGINES.md

5. 竞品对比：OMNIROUTE_VS_ALTERNATIVES.md

6. Quota-Share 引擎：QUOTA_SHARE.md

每日开源 · 第 113 期 · 2026-07-27

仅供技术学习参考