从零用 PyTorch 一步步实现类 ChatGPT 大语言模型,覆盖注意力机制、预训练、指令微调全流程,适合边跑代码边理解 LLM 内部原理。
在 DGX Spark 上跑 Qwen3.5-122B-A10B 的 INT4 量化推理方案,靠 AutoRound 加 MTP 把吞吐从 28.3 提到 51 tok/s,显存吃紧的单机也能跑大模型。