Open Source AI Gateway

一个开源的AI网关，用于管理多个大型语言模型（LLM）提供商，如OpenAI、Anthropic、Gemini、Ollama、Mistral和Cohere。它提供内置分析、保护措施、速率限制、缓存和管理控制。支持HTTP和gRPC接口。