ztxz16 / fastllm

fastllm是后端无依赖的高性能大模型推理库,帮助您在大部分设备上高效推理大模型!

仓库 Star

5,130总榜 #11,737

Fork

505

最近推送

4 天前更新

仓库创建

2023 年创建