基于 Megatron 和 DeepSpeed 在 GPU 上训练大规模自回归 Transformer 的模型并行框架，用来复现和扩展 GPT-3 级别的语言模型。
基于大语言模型的语音合成系统，能生成接近真人音色的自然语音，并支持实时流式输出，适合搭建低延迟的 TTS 服务。
MAGI-1 是一个大规模自回归视频生成模型，把视频拆成片段逐段预测生成，适合需要长时序连贯性的视频创作场景。
NOVA 是一种无需向量量化的自回归视频生成方法，用扩散式连续表示替代离散 token，绕开 VQ 编解码器直接生成视频。
把语言模型直接当作统一的多模态生成器，用自回归方式同时做文本到图像生成，省去额外扩散模型。
系统梳理视觉自回归模型的研究综述（TMLR 2025），覆盖图像生成、多模态、点云、运动预测等方向，帮研究者快速理清技术脉络与加速方法。
统一视觉分词器，把图像同时编码成适合生成和理解任务的离散 token，解决生成与理解模型各用一套 tokenizer 的割裂问题。