开源的多模态大扩散语言模型,用块扩散、混合思维链和统一强化学习,把多模态理解与生成放进同一个模型里做。
NeurIPS 2024 提出的掩码扩散语言模型,用简单的掩码扩散训练方式做文本生成,效果优于传统扩散语言模型,代码基于 Python 可直接复现。
开源的扩散式语言模型,专攻代码生成,一并放出预训练、评测、推理代码和模型权重,方便直接复现和二次开发。
- 支持 LLaDA2.1-mini、LLaDA2.1-flash 模型,是赤兔首次支持扩散语言模型。 - 支持 Kimi-K2.6。 - 向后兼容 Qwen3-Coder-Next-FP8、GLM4.7-FP8。 - 进一步优化 DeepSeek-V3.2 及类似模型中的稀疏 attention。 - 优化 Qwen3-Next 和 Q