提供一套稳健的训练配方，用人类和 AI 偏好数据对齐语言模型，涵盖 SFT、DPO 等流程，帮你把基座模型调成听话好用的助手。

提供中文 BERT-wwm 系列预训练模型，用全词掩码技术提升中文 NLP 任务效果，可直接加载微调。

中文 LLaMA-2 与 Alpaca-2 大模型二期项目，提供支持 64K 超长上下文的中文预训练和指令微调模型，可直接用于长文本理解与对话。

在多种虚拟游戏世界中继续预训练视觉语言模型，打造能跨游戏泛化的具身智能体，并公开模型权重。