…nese-Alpaca-2-1.3B）。 - 投机采样是一种解码加速策略，借助能力稍弱但速度较快的小模型加速大模型的推理。其理论细节可查看[相关论文](https://arxiv.org/pdf/2302.01318.pdf)。本次更新实现了投机采样解码策略，可使用小模型加速大模型的解码，并在 gradio demo.py 和 infer