项目对比

L

基于nanoGPT的LLaMA语言模型的实现。支持 Flash Attention、Int8 和 GPTQ 4bit 量化、LoRA 和 LLaMA-Adapter 微调、预训练。 Apache 2.0 许可。

B

通过 PyTorch 的 k 位量化可访问大型语言模型。