项目对比
选择 2–4 个项目，按同一口径比较。
gpustack / gpustack
用于高性能 AI 模型服务（vLLM、SGLang）和按需可通过 SSH 访问的 GPU 实例的 GPU 集群管理器。
jundot / omlx
LLM 推理服务器，具有适用于 Apple Silicon 的连续批处理和 SSD 缓存 - 从 macOS 菜单栏进行管理
热度
仓库 Star5,98423,422最高
Fork7242,104最高
维护
最近推送2026-11-062026-11-05
仓库创建2024-05-112026-02-13
基本信息
按用途浏览模型运行与服务模型运行与服务
资源类型应用与完整系统应用与完整系统
细分类AI 应用AI 应用
首次收录2026-11-032026-11-03
语言PythonPython
商用三档依据许可证元数据自动分类；具体义务需结合实际使用方式核对。未知不等于禁止商用。 采集时间 2026-11-06 UTC