ARahim3 / mlx-dspark

在 Apple Silicon 上，LLM 解码速度可提升至 4 倍，且无损失。支持 DeepSeek 的 DSpark 和 z-lab 的 DFlash speculative decoding 功能——包括 Gemma-4、Qwen3.8、Muse-Glimmer、Nemotron、LFM2.5、Ornith-1.0 以及 ternary Bonsai-27B。

仓库 Star: 735总榜 #48,813
Fork: 63
最近推送: 1 个月前更新
仓库创建: 2026 年创建

应用与完整系统通用PythonMIT · 宽松，可直接商用

查看源码官网

用途与标签

项目原文 · GitHub

Up to 4× faster LLM decoding on Apple Silicon, lossless. Native MLX port of DeepSeek's DSpark & z-lab's DFlash speculative decoding — Gemma-4, Qwen3.8, Muse-Glimmer, Nemotron, LFM2.5, Ornith-1.0, ternary Bonsai-27B.