Higress.AI

Higress是一个基于Istio和Envoy的AI原生API网关，支持用Go/Rust/JS编写的Wasm插件进行扩展。它提供AI网关、MCP服务器托管、Kubernetes入口控制器、微服务网关和安全网关。Higress AI网关提供多种模型灵活切换与回退重试、大模型内容安全与合规、语义缓存、多API Key均衡、Token配额管理与限流、大模型流量灰度、调用成本审计等功能，帮助企业开发Agent、管理LLM API。