一站式大模型训练框架，支持 600+ 纯文本大模型和 300+ 多模态大模型的 CPT、SFT、DPO、GRPO 等训练，可用 LoRA 等 PEFT 方式或全参数微调。
…gingFace原生Safetensors格式的文心、Qwen系列模型 - 完善DP+TP+EP混合并行推理 性能优化 - 新增W4Afp8 MoE Group GEMM算子 - CUDA Graph增加对超32K长文的支持 - 优化moe topk select算子性能，提升MoE模型性能 - 新增Machete WINT4 GEMM算
…行效率，大幅提升训练吞吐。扩展自动并行架构的切分推导覆盖范围；推理部署提高兼容性的同时进一步增强EP并行推理能力；整体上在保持API兼容性的基础上构建出更稳健、高效的大模型研发技术底座。 算子与执行体系正确性、稳定性增强 ：系统化修复0-size、大shape Tensor、CPU/GPU 精度一致性问题，保障大模型训练正确性、稳定性。
…10B、310B(香橙派)、GPU、CPU。（PS：目前香橙派唯一可用的AI开发套件） 3. 分布式并行推理：支持多卡多进程并行推理（超过10B的模型可以玩啦！） 4. 量化算法支持：香橙派支持Smooth Quant，GPU支持bitsandbytes int8量化 5. Sentence transformer支持：可以开心的搞RAG