carloslfu / slotstream
在无法容纳 105 GB 大小 AI 模型的 Mac 上运行 Qwen3.8-Flash-Next 4-bit 模型。该模型从 16–64 GB 的 Apple Silicon Mac 上的 SSD 中流式传输。完全基于 Swift、MLX 和 Metal 技术，无需 Python。支持 CLI、Swift 库以及 Ollama/OpenAI/Anthropic API。可与 Claude Code 和 Codex 兼容。
- 仓库 Star
- 652总榜 #52,416
- Fork
- 54
- 最近推送
- 2 天前更新
- 仓库创建
- 2026 年创建
用途与标签
Run a 105 GB AI model on a Mac that can't hold it. Qwen3.8-Flash-Next 4-bit, streamed from SSD on 16–64 GB Apple Silicon Macs. Fully native Swift, MLX and Metal. Offline, no Python. CLI, Swift library, and Ollama/OpenAI/Anthropic APIs. Works with Claude Code and Codex.