Higress AI 网关实战教程一行 Docker 命令搭好你的 AI Native API 网关【免费下载链接】higress AI Gateway | AI Native API Gateway项目地址: https://gitcode.com/GitHub_Trending/hi/higressHigress 是一款云原生 API 网关内核基于 Istio 和 Envoy主打 AI 网关能力统一接入各家大模型、托管 MCP Server、给 API 加限流鉴权。它解决的是模型供应商协议不统一、API 缺少流量与安全管控这两个问题。项目是 CNCF 沙箱项目当前版本 v2.2.4见 VERSION支持每秒数十万请求级别的生产场景。5 分钟上手三种安装方式与第一次验证安装有三条路先看你属于哪种人方式命令/步骤适合谁Docker最省事一条docker run起 all-in-one 镜像本地学习、演示、小型站点Helm 部署 K8shelm install加--set global.hub镜像源已有集群、要上生产源码构建克隆仓库https://gitcode.com/GitHub_Trending/hi/higress参考 Makefile.core.mk改内核、发镜像Docker 方式只需 4 步全程约 3~5 分钟主要花在拉镜像上建一个工作目录mkdir higress cd higress容器配置会写到这个目录执行启动命令docker run -d --rm --name higress-ai -v ${PWD}:/data \ -p 8001:8001 -p 8080:8080 -p 8443:8443 \ higress-registry.cn-hangzhou.cr.aliyuncs.com/higress/all-in-one:latest浏览器打开http://localhost:8001进入 UI 控制台验证成功在控制台服务来源里能看到默认入口再向 8080 端口发一个 HTTP 请求返回 200 或路由提示信息说明网关在转发三个端口记清楚后面调试全靠它8001UI 控制台入口8080网关 HTTP 入口8443网关 HTTPS 入口拉镜像超时的话把镜像源换成北美higress-registry.us-west-1.cr.aliyuncs.com或东南亚higress-registry.ap-southeast-7.cr.aliyuncs.comHelm 部署则通过global.hub参数配置。核心能力拆解四个模块逐项看AI 网关一份 OpenAI 协议打通所有模型适用场景你同时用 OpenAI、Claude、通义千问、Moonshot 等好几家模型不想为每家写一套对接代码。具体操作部署 AI Proxy 插件源码在 plugins/wasm-go/extensions/ai-proxy/在控制台把目标供应商和 API Key 配上客户端照 OpenAI 格式调/v1/chat/completions即可。得到结果插件自动检测请求协议OpenAI 或 Claude 格式并转成目标供应商协议模型名可通过modelMapping映射多个 Key 随机负载、失效自动切换仓库 provider 目录里能数出 50 来个已适配供应商还支持 vllm/ollama 这类自建模型。MCP Server 托管让 AI Agent 统一调用工具适用场景你要把一批工具 API 暴露给 AI AgentMCP 协议还要管住谁能调、能调多快。具体操作通过插件机制在 Higress 上托管 MCP Server示例配置参考 samples/mcp/。得到结果工具调用走网关后统一获得认证鉴权、细粒度限流、完整审计日志和可观测指标更新 MCP 逻辑时流量无损长连接不断。控制台与服务发现路由、域名、插件一个界面管完适用场景需要可视化管路由后端服务散落在不同注册中心。具体操作先在服务来源里对接 K8s Service、Nacos、ZooKeeper、Consul、Eureka或直接用静态 IP/DNS再到路由页选域名、定义匹配规则、绑定目标服务域名页可管 TLS 证书支持对接 Lets Encrypt 自动续签插件页可给指定域名或指定路由单独挂插件。得到结果路由变更毫秒级生效不用重启网关监控页内置 Prometheus 和 Grafana开箱即可看指标。安全与流量治理限流、认证、WAF 开箱即用适用场景对外 API 要做认证和防刷。具体操作在插件市场选对应插件挂到域名或路由上认证类支持 key-auth、hmac-auth、jwt-auth、basic-auth、oidc防护类有 WAF 和 IP/Cookie 限流plugins/wasm-go/extensions/ 下 50 余个官方插件。得到结果不写业务代码就完成鉴权与限流插件以 Wasm 沙箱运行独立升级、热更新不中断流量。常见误区纠正先对照这 5 条错误做法正确做法拉镜像一直超时就干等换区域镜像源北美/东南亚K8s 用global.hub指定浏览器开 8080 等控制台控制台在 80018080/8443 是给业务流量走的配了 AI 插件就直接请求上游模型地址先建路由让请求进入网关由插件转发到供应商觉得改了插件不生效重启容器先检查插件是否绑定到了对应的域名/路由变更本身秒级热更新拿 all-in-one Docker 镜像直接上生产Docker 版适合学习与小型站点生产用 Helm 部署 K8s边界与注意事项这些事它做不了或需要条件Docker 版不是生产形态all-in-one 镜像面向个人开发正式环境走 Helm K8s镜像源、组件版本都通过 values 管理AI 能力依赖上游 Key插件只做协议转换和治理模型本身要你自己有账号和额度网关不替你部署后端服务要先存在于 K8s、Nacos 等它支持的服务来源里它负责发现和路由插件沙箱有语言边界官方插件生态以 Go/Wasm 为主plugins/wasm-go/、plugins/wasm-rust/、plugins/wasm-cpp/C 等语言走独立编译链路合规提醒网关上的审计日志、认证配置涉及业务数据生产部署前按 SECURITY.md 流程管理漏洞与凭据使用各家模型需遵守相应服务商的条款写在最后Higress 的价值一句话一条 Docker 命令把模型接入、工具托管、流量与安全治理收进一个网关。现在就可以按第一节的 4 步把 all-in-one 跑起来打开http://localhost:8001完成你的第一次路由配置想深入看原理直接读 docs/architecture.md 和 CONTRIBUTING_CN.md 参与贡献。【免费下载链接】higress AI Gateway | AI Native API Gateway项目地址: https://gitcode.com/GitHub_Trending/hi/higress创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考