用 ChatGPT 同款流程训练医疗大模型,覆盖增量预训练、有监督微调、RLHF、DPO、ORPO、GRPO 全链路,开箱即可复现。
在 LLaMA/Alpaca 基础上扩充中文词表并做中文增量预训练,提供可本地 CPU/GPU 部署的中文大模型及 LoRA 微调、量化方案。
全流程适配Qwen3/Qwen3.5: PT(增量预训练)— training/pretraining.py SFT(有监督微调)— training/supervised finetuning.py / training/supervised finetuning accelerate.py RM(奖励模型)— training/rew