项目对比

选择 2–4 个项目,按同一口径比较。

gpustack / gpustack

用于高性能 AI 模型服务(vLLM、SGLang)和按需可通过 SSH 访问的 GPU 实例的 GPU 集群管理器。

bentoml / OpenLLM

在云中运行任何开源 LLM(例如 DeepSeek 和 Llama)作为 OpenAI 兼容 API 端点。

热度
仓库 Star5,98412,583最高
Fork724847最高
维护
最近推送2026-11-062026-11-02
仓库创建2024-05-112023-04-19
许可证与使用
许可证Apache-2.0 · 宽松,可直接商用Apache-2.0 · 宽松,可直接商用
基本信息
按用途浏览模型运行与服务模型运行与服务
资源类型应用与完整系统应用与完整系统
细分类AI 应用AI 应用
首次收录2026-11-032026-11-03
语言PythonPython

商用三档依据许可证元数据自动分类;具体义务需结合实际使用方式核对。未知不等于禁止商用。 采集时间 2026-11-06 UTC