用 ChatGPT 同款流程训练医疗大模型,覆盖增量预训练、有监督微调、RLHF、DPO、ORPO、GRPO 全链路,开箱即可复现。
基于知识图谱为 LLM 微调合成高质量问答数据,把结构化知识转成训练语料,缓解监督微调数据稀缺。
…/Qwen3.5: PT(增量预训练)— training/pretraining.py SFT(有监督微调)— training/supervised finetuning.py / training/supervised finetuning accelerate.py RM(奖励模型)— training/reward modeli
…setLoom v0.1.0 - 首个版本发布! 📌 主要功能 - ✅ 支持生成 SFT 数据集(监督微调) - ✅ 支持生成 DPO 数据集(偏好对齐) - ✅ 提供可视化界面进行数据管理 - ✅ 支持 Redis 工作流(Beta) Full Changelog : https://github.com/599yongyang/Da