Edgee 是一款 AI 网关，旨在优化和管理边缘的大语言模型 (LLM) 流量。其核心特色是边缘原生 Token 压缩技术，可在 Prompt 发送到 OpenAI 或 Anthropic 等提供商之前减小其体积，在不损失用户意图的情况下降低高达 50% 的成本。它提供了一个兼容 OpenAI 的统一 API，可访问 200 多个模型，并具备智能路由、故障转移、实时可观测性和成本治理功能。开发者可以用它按功能或团队跟踪支出、托管私有模型，并调用边缘工具以降低延迟并提高生产环境 AI 应用的可靠性。
Edgee