ModelTC / LightLLM

LightLLM 是一个基于 Python 的 LLM（大型语言模型）推理和服务框架，以其轻量级设计、易于扩展和高速性能而著称。

仓库 Star

4,357总榜 #14,073

Fork

384

最近推送

今天更新

仓库创建

2023 年创建