一条命令就能从数百个模型和供应商里筛出适合你硬件配置的本地大模型,省去逐个试跑和查显存的麻烦。
重要更新 飞桨框架 3.4 版本围绕大模型训练的训练效率、算子正确性、稳定性以及国产硬件适配等关键领域持续迭代。本版本新增面向大规模分布式训练的高性能 Muon 优化器;持续打磨核心算子的数值精度,并针对大模型训练中高频出现的大 Shape Tensor、0-Size Tensor 场景做了系统性的正确性排查与修复,进一步夯实大模型训练的
….0 版本聚焦于 多模态 LLM 模型扩展与推理加速 、 GPU 多后端深度优化 以及 低比特量化与硬件适配增强 三大核心主题: 多模态 LLM 模型扩展与推理加速 :新增 Gemma4(文本/视觉/语音)、Qwen3.5、Hymt2 等模型支持;推出 dflash 推测解码;Omni 模型 Thinker/Talker 交错生成将 TT
…m 部署并优化部署方式。 - 升级 MindIE 镜像,优化数据库升级策略。 5) 数据库与国产化/硬件适配 - 支持达梦数据库初始化与建库,后续持续优化。 - 数据库类型、变量名、外键查询等多处修正。 - 增加百度昆仑芯与摩尔线程适配;YOLO 多目标跟踪 NPU 适配优化。 6) 前端与体验优化 - 首页、个人详情页、任务可视化、EC
…m 部署并优化部署方式。 - 升级 MindIE 镜像,优化数据库升级策略。 5) 数据库与国产化/硬件适配 - 支持达梦数据库初始化与建库,后续持续优化。 - 数据库类型、变量名、外键查询等多处修正。 - 增加百度昆仑芯与摩尔线程适配;YOLO 多目标跟踪 NPU 适配优化。 6) 前端与体验优化 - 首页、个人详情页、任务可视化、EC
重要更新 飞桨框架 3.3 版本在大模型训练效率、开发体验及国产硬件适配等关键领域持续突破创新,在计算显存高效利用、训推衔接转换、生态兼容性、调试效率、国产硬件适配等方面带来多项重要升级,全面提升大模型训推能力。 训练效率突破 FlashMaskV3升级 :深度优化稀疏注意力掩码计算FlashMaskV3计算内核,性能全面超越FlexAt
重要更新 飞桨框架3.2.2版本在分布式并行、算子机制、硬件适配三个方面完成多项优化与升级,进一步提升框架性能与稳定性。 1. 分布式训练 - 优化 FlexCheckpoint 的重切分通信流程; 为 paddle.nn.Layer 新增 full 接口, 用于返回完整模型参数; 支持加载 HuggingFace 开源格式的 Check