LLM管理

LiteLLM：用于管理和访问100多个LLM的LLM网关，符合OpenAI格式。

开源AI网关，用于管理多个LLM提供商并具备内置功能。