jundot / omlx

LLM 推理服务器，具有适用于 Apple Silicon 的连续批处理和 SSD 缓存 - 从 macOS 菜单栏进行管理

仓库 Star

23,405总榜 #1,815

Fork

2,101

最近推送

1 天前更新

仓库创建

2026 年创建