整理大模型与多模态推理加速论文和配套代码的资源清单,涵盖 Flash-Attention、Paged-Attention、低比特量化与并行策略等方向,方便快速定位和复现关键技术。
…NN 3.6.0 版本聚焦于 多模态 LLM 模型扩展与推理加速 、 GPU 多后端深度优化 以及 低比特量化与硬件适配增强 三大核心主题: 多模态 LLM 模型扩展与推理加速 :新增 Gemma4(文本/视觉/语音)、Qwen3.5、Hymt2 等模型支持;推出 dflash 推测解码;Omni 模型 Thinker/Talker 交错