vllm-project / llm-compressor

最先进的 LLM 压缩，专为使用 vLLM 进行生产推理而构建

仓库 Star

3,942总榜 #15,656

Fork

724

最近推送

3 天前更新

仓库创建

2024 年创建