…VecAttention 稀疏 Prefill 能力，面向视觉语言模型（Qwen2.5-VL），集成稀疏注意力 Triton 内核及图像/视频推理工具 320 - 新增 D-Flash / D-Flare 相关能力 325 - 新增 Stem 稀疏注意力模块的 News 与 Benchmark 结果文档 328 蒸馏与训练 - 新增蒸馏（

…方面带来多项重要升级，全面提升大模型训推能力。 训练效率突破 FlashMaskV3升级 ：深度优化稀疏注意力掩码计算FlashMaskV3计算内核，性能全面超越FlexAttention，算子性能最高领先2.1 倍；原生支持上下文并行并引入计算负载均衡机制，分布式场景算子性能相比Megatron-LM快80%，全面强化长文训练能力。 F

…策略与上下文缓存默认开启 - MTP支持更多草稿token推理，提升多步接受率 - 新增可插拔轻量化稀疏注意力加速长文推理 - 针对Decode支持自适应双阶段的All-to-All通信，提升通信速度 - 支持DeepSeek系列模型MLA Bankend encoder阶段启用Flash-Attrntion-V3 - 支持DeepSee