飞桨核心框架,提供深度学习与机器学习的高性能单机及分布式训练能力,并支持跨平台部署,适合工业级模型开发。
在骁龙设备的 NPU、GPU 和 CPU 上本地跑大模型和多模态模型,几行代码就能接入,省去自己适配硬件的麻烦。
在本地 GPU 和 NPU 上直接跑优化后的大模型,帮用户发现并启动本地 AI 应用,省去自己折腾推理环境的麻烦。
…Intel XPU (e.g., local PC with iGPU and NPU, discrete GPU such as Arc, Flex and Max); seamlessly integrate with llama.cpp, …
统一管理 GPU 集群,调度 vLLM、SGLang 等推理引擎做高性能模型服务,还能按需开出可 SSH 登录的 GPU 实例。
云原生一站式机器学习与大模型平台,覆盖 Notebook 开发、拖拉拽 Pipeline 编排、分布式训练、超参搜索、推理服务和 SFT/强化学习微调,支持国产算力生态。
基于新一代 Kaldi 和 onnxruntime 的离线语音工具包,一套搞定语音识别、合成、说话人分离、降噪、声源分离和 VAD,可跑在嵌入式、手机和服务器上。
把训练好的深度学习模型优化并部署到 Intel CPU、GPU 等硬件上做推理,支持视觉、LLM 和生成式模型,省去自己折腾底层加速的麻烦。
跨平台高性能推理与训练加速引擎,可直接加载 ONNX 模型,兼容 PyTorch、TensorFlow 等框架导出,解决模型在不同硬件上高效部署的问题。
开源本地 AI 推理引擎,无需 GPU 即可在任意硬件上跑 LLM、视觉、语音和图像生成模型,提供兼容 OpenAI 的 API。
面向中文用户的 Linux 环境大模型实战教程,手把手教你在本地微调(全参数/LoRA)和部署国内外开源 LLM 与多模态模型。
基于飞桨的 NLP 与大模型开发库,提供丰富模型库,覆盖 BERT、ERNIE、LLaMA 等,支持分布式训练、压缩和文档智能等任务。
一站式大模型训练框架,支持 600+ 纯文本大模型和 300+ 多模态大模型的 CPT、SFT、DPO、GRPO 等训练,可用 LoRA 等 PEFT 方式或全参数微调。
…es. Use cpu for Intel CPU, xpu for Intel GPU, and npu for an Intel NPU with those runtimes. The intel:cpu , intel:gpu , and intel:npu names still work as deprecated alias
… frontends, blank/truncated/missing/compact CMVN input, shipped am.mvn feature equality, package contracts, build/install metadata, and exact-head/main CI. It does not cl
…lease on top of v0.4.2 with two fixes. Strix Halo NPU trunk: the built-in calibration now applies on any Halo kernel and NPU firmware. Before this release, npu trunk=auto
…ek-Varma Added the VE3858 target model , improved NPU2/Gorgon Point support, and fixed Strix-family hardware context limits → @fifield, @atassis, @bong-water-water-bong A
…text-attention/pull/159 Adapted for Huawei Ascend npu by @endymion-ni in https://github.com/feifeibear/long-context-attention/pull/162 Adapted Ascend npu for LongContextA
…Ov7 - 优化SFT pipeline 6. 部署与运维优化 - 支持SSH Proxy - 优化NPU监控 - 生产部署后端代理模式支持gevent - 优化KubeKey离线部署 - 支持Harbor HTTPS部署 - 修复模型发布名称重复报错 - 支持快速卸载AIHub应用 - 优化初始化示例 7. 前端与用户体验 - 修正前端