项目对比
选择 2–4 个项目，按同一口径比较。
bentoml / OpenLLM
在云中运行任何开源 LLM（例如 DeepSeek 和 Llama）作为 OpenAI 兼容 API 端点。
jundot / omlx
LLM 推理服务器，具有适用于 Apple Silicon 的连续批处理和 SSD 缓存 - 从 macOS 菜单栏进行管理
热度
仓库 Star12,58323,405最高
Fork8472,101最高
维护
最近推送2026-11-022026-11-05
仓库创建2023-04-192026-02-13
基本信息
按用途浏览模型运行与服务模型运行与服务
资源类型应用与完整系统应用与完整系统
细分类AI 应用AI 应用
首次收录2026-11-032026-11-03
语言PythonPython
商用三档依据许可证元数据自动分类；具体义务需结合实际使用方式核对。未知不等于禁止商用。 采集时间 2026-11-06 UTC