NVIDIA / Model-Optimizer
量化、蒸馏、剪枝、神经架构搜索、推测解码等 SOTA 模型优化技术的统一库。它为 TensorRT-LLM、TensorRT、vLLM 等下游部署框架压缩深度学习模型，以优化推理速度。
- 仓库 Star
- 5,497总榜 #10,842
- Fork
- 792
- 最近推送
- 3 天前更新
- 仓库创建
- 2024 年创建
量化、蒸馏、剪枝、神经架构搜索、推测解码等 SOTA 模型优化技术的统一库。它为 TensorRT-LLM、TensorRT、vLLM 等下游部署框架压缩深度学习模型，以优化推理速度。