开源序
GitHub 开源项目排行
返回榜单
G
gpustack /
gpustack
用于高性能 AI 模型服务（vLLM、SGLang）和按需可通过 SSH 访问的 GPU 实例的 GPU 集群管理器。
仓库 Star
5,956
总榜 #9,933
Fork
712
最近推送
3 天前更新
仓库创建
2024 年创建
应用与完整系统
AI 应用
Python
Apache-2.0 · 宽松，可直接商用
查看源码
收藏
加入对比
加入收藏夹
用途与标签
介绍
README
模型运行与服务
# ascend
# cuda
# deepseek
# distributed-inference
# genai
# high-performance-inference
# inference
# llama
# llm
# llm-inference
# maas
# mindie
# openai
# qwen
# rocm
# sglang
# vllm
