使用 C++ 和 CUDA 构建自己的高性能 LLM 推理引擎——这是 vLLM 的简化版本
Build your own high performance LLM inference engine in C++ and CUDA - a smaller version of vLLM