飞桨核心框架,提供深度学习与机器学习的高性能单机及分布式训练能力,并支持跨平台部署,适合工业级模型开发。
云原生一站式机器学习与大模型平台,覆盖 Notebook 开发、拖拉拽 Pipeline 编排、分布式训练、超参搜索、推理服务和 SFT/强化学习微调,支持国产算力生态。
高性能大模型与多模态模型推理服务框架,通过优化注意力机制和调度策略提升吞吐与延迟表现,支持 Llama、DeepSeek、MoE 等主流模型部署。
面向中文用户的 Linux 环境大模型实战教程,手把手教你在本地微调(全参数/LoRA)和部署国内外开源 LLM 与多模态模型。
面向生产环境的端到端语音识别工具包,基于 PyTorch 提供 Conformer、Transformer 等模型,可直接训练和部署 ASR 服务。
基于飞桨的目标检测工具库,覆盖检测、实例分割、多目标跟踪和实时多人关键点检测,提供从训练到部署的完整流程。
基于飞桨的 NLP 与大模型开发库,提供丰富模型库,覆盖 BERT、ERNIE、LLaMA 等,支持分布式训练、压缩和文档智能等任务。
统一管理 GPU 集群,调度 vLLM、SGLang 等推理引擎做高性能模型服务,还能按需开出可 SSH 登录的 GPU 实例。
基于飞桨的一站式开发工具,把分类、检测、分割、OCR、语音识别等任务封装成流水线,支持训练到部署全流程。
一站式大模型训练框架,支持 600+ 纯文本大模型和 300+ 多模态大模型的 CPT、SFT、DPO、GRPO 等训练,可用 LoRA 等 PEFT 方式或全参数微调。
…统计、新增 N M 乘法语法、统一 vGPU 资源解析;对接现有 HAMi 方法。 - 异构算力(含昇腾)租赁支持,新增 vLLM 昇腾示例;显存租赁值修正。 - 支持自定义 gpu=true 机器标签。 - 修复 GPU 利用率弹性伸缩、不同优先级服务之间算力调节的 bug。 - 基础 GPU 镜像 CUDA 版本升级。 - LLaMA
…专题两篇 硬件与编程 (+106):HBF vs HBM 的 token 成本账;NPU 编程系列(昇腾全栈 38 篇);CUDA/TileLang 与性能调优 成本与课程 :AI Infra 入门讲座(90 分钟 · 四层杠杆);Token Factory 图文讲解;11 款 Coding Plan 订阅对比 体系配套:pre-comm
…件即可启动多节点、多实例、PD 分离等复杂任务。 - 新增功能: - 新模型:GLM-5.2。 - 昇腾 910B 平台支持 GLM-5 系列。 - 支持在请求中设置 reasoning effort 。 - 增加 DeepSeek-V4 工具调用支持。 - INT8 W8A8 MoE 增加 triton 算子实现。 - 支持 prefi
…-beijing.cr.volces.com/public/chitu-muxi:v0.5.7 - 昇腾 / Ascend (A2): qingcheng-ai-cn-beijing.cr.volces.com/public/chitu-ascend a2:v0.5.7
…-beijing.cr.volces.com/public/chitu-muxi:v0.5.6 - 昇腾 / Ascend (A2): qingcheng-ai-cn-beijing.cr.volces.com/public/chitu-ascend a2:v0.5.6
…的 allreduce 性能。 - 删除了 infer.use cuda graph=auto 时在昇腾平台上默认关闭 graph 的一项过时判断。 - 重构算子分发逻辑。 - 重构异步调度。 - 改进代码仓库中的若干测试。 ------ - Added support for LLaDA2.1-mini and LLaDA2.1-fla