一种支持推测性解码的轻量级推理引擎(SSD)。
A lightweight inference engine supporting speculative speculative decoding (SSD).