开源、高性能 AI 网关，可用作您的 LLM 网关、MCP 网关和代理网关。一个兼容 OpenAI 的 API，适用于 10,000 多个模型，具有故障转移、负载平衡、语义缓存、虚拟密钥、预算和 MCP 代码模式。可与任何 SDK 或代理配合使用，并以 5k RPS 的速度增加不到 200μs 的开销。
