NVIDIA / TransformerEngine
一个用于加速 NVIDIA GPU 上 Transformer 模型的库，支持在 Hopper、Ada 和 Blackwell GPU 上使用 8 位和 4 位浮点（FP8 和 FP4）精度，从而在训练和推理过程中实现更好的性能且内存占用更低。
- 仓库 Star
- 3,599总榜 #17,214
- Fork
- 886
- 最近推送
- 3 天前更新
- 仓库创建
- 2022 年创建
一个用于加速 NVIDIA GPU 上 Transformer 模型的库，支持在 Hopper、Ada 和 Blackwell GPU 上使用 8 位和 4 位浮点（FP8 和 FP4）精度，从而在训练和推理过程中实现更好的性能且内存占用更低。