Docker 一键部署 AI 网关
- 执行 curl -sS https://higress.cn/ai-gateway/install.sh | bash 一键部署
- 按指引录入模型供应商 API-KEY（可跳过后在控制台修改）
- 浏览器访问 http://localhost:8001/ 控制台并配置管理员密码
- 在 AI 服务提供者管理界面配置供应商 API-KEY
Higress
开源 AI 网关，统一接入大模型、Agent 与 MCP Server
开源 AI 网关，统一接入大模型、Agent 与 MCP Server
产品定位
Higress 是 CNCF Sandbox 开源 AI 网关，基于 Istio 与 Envoy 构建，定位是面向 AI 时代的统一网关，而非单纯的 API 代理。它同时提供免费开源版（可自部署）与云上商业版，用户可按运维能力和托管需求选择。
适合用户
- AI 应用与 Agent 开发者
- 企业平台/基础设施工程师
- 开源社区用户
功能亮点
多模型统一接入与协议转换
将不同大模型的请求通过统一调用方式转发，支持 100+ 模型的统一协议转换与模型级 Fallback。
MCP Server 托管与工具调用治理
支持 Remote MCP Server 托管、MCP 代理协议转换，将现有服务暴露为 MCP Server。
Token 管控与语义缓存
追踪 Token 用量并在超额时限制消费者，支持精确缓存与语义缓存以节省 Token、降低时延。
内容安全与数据防护
对输入到外部模型的数据进行隐私保护，对输出给用户的数据进行内容过滤。
AI 可观测监控面板
观测每秒输入输出 Token 数量、各供应商及模型 Token 使用情况，辅助优化模型调用策略。
使用步骤
通过 OpenAI 兼容接口调用模型
- 在控制台配置 AI 路由（域名、模型匹配、消费者等）
- 通过 /v1/chat/completions 接口发起请求
- 在 AI 监控面板查看 Token 用量与时延指标
配置内容安全防护
- 在控制台创建内容安全服务来源（如阿里云内容安全）
- 在 AI 路由管理中为路由配置 AI 内容安全插件策略
- 发起请求验证有害内容被拦截
适用场景
企业统一多模型接入
企业平台工程师
通过统一协议转换接入 100+ 模型并支持模型级 Fallback，灵活调度后端模型。
将存量服务暴露为 MCP Server
AI 应用开发者
借助 MCP 托管能力，在不深入了解 MCP 协议细节的情况下快速将现有服务转为 MCP Server。
Token 成本管控
AI 应用运营者
追踪 Token 用量、设置消费者额度限流，结合语义缓存降低调用成本。
AI 内容安全合规
企业安全与合规团队
在网关层统一做数据脱敏与内容过滤，避免大模型直接接触敏感数据。
访问与价格
可用状态: 当前可用
价格信息: 按量计费
支持平台: API, 自托管
价格说明: 开源版免费可自部署；阿里云 AI 网关 Serverless 标准版 0 元起步、按实际用量付费，企业版提供 99.95% SLA。
免费额度: 开源版免费可自部署。
官方入口
常见问题
Higress 是什么？
Higress 是 CNCF Sandbox 开源 AI 网关，基于 Istio 与 Envoy 构建，为 LLM API、AI Agent 与 MCP Server 提供统一接入、流量治理、安全防护和可观测能力。
如何快速部署 Higress AI 网关？
在本地执行 curl -sS https://higress.cn/ai-gateway/install.sh | bash 即可基于 Docker 一键部署，无需注册；部署后通过浏览器访问 http://localhost:8001/ 控制台。
Higress 支持哪些模型供应商？
控制台当前已集成阿里云、DeepSeek、Azure OpenAI、OpenAI、豆包等供应商，可配置各自 API-KEY；官网称支持常用 100+ 个模型的统一协议转换。
Higress 如何收费？
提供免费开源版与云上商业版；阿里云 AI 网关 Serverless 标准版 0 元起步、按实际用量付费，企业版提供 99.95% SLA。
Higress 能托管 MCP Server 吗？
可以。Higress 支持 Remote MCP Server 托管，可在不深入了解 MCP 协议细节的情况下将现有服务暴露为 MCP Server，具体参见 MCP Server 快速开始文档。
来源核验
资料核验于 2026-09-28