开源序GitHub 开源项目排行

tile-ai / TileRT

基于 tiles 的运行时技术，实现超低延迟 LLM 推理。

仓库 Star: 1,887总榜 #27,348
Fork: 140
最近推送: 1 个月前更新
仓库创建: 2025 年创建

应用与完整系统通用PythonMIT · 宽松，可直接商用

查看源码官网

用途与标签

项目原文 · GitHub

Tile-Based Runtime for Ultra-Low-Latency LLM Inference

Star 走势