面向 NVIDIA Jetson 嵌入式设备的深度学习推理部署指南，用 TensorRT 加速图像识别等视觉任务，配套教程和预训练模型开箱即用。
ERNIE 4.5 系列大模型与配套的工业级开发工具包 ERNIEKit，基于 PaddlePaddle，支持大语言模型和多模态模型的训练、微调与推理部署。
提供大量预训练、前沿的 ONNX 格式模型，可直接下载用于推理部署或迁移学习，省去自己转换和训练的成本。
ONNX 是开放的机器学习模型交换格式标准，让 PyTorch、TensorFlow、Keras 等框架训练出的模型能互相转换、跨平台部署。
汇集大模型技术原理与实战经验的开源知识库，覆盖训练、推理、部署和工程化落地全流程，适合系统学习大模型应用开发。
用 TensorRT 网络定义 API 手写实现 YOLO、ResNet、Swin Transformer 等主流深度学习模型，并附 C++ 推理代码，方便直接部署到 NVIDIA GPU。
Llama 官方示例手册，手把手教你在推理、微调、RAG 等场景中落地 Llama 系列模型，并覆盖多家云服务商的端到端方案。
让大模型在普通显卡上跑起来的 PyTorch 量化库，支持 8-bit 和 4-bit 权重压缩，也是 QLoRA 微调背后的核心依赖。
面向全模态模型的高效推理框架，支持图像、视频、音频生成与多模态模型服务，基于 PyTorch 提供统一的推理与部署能力。
Mooncake 是支撑 Kimi 大模型服务的推理平台，通过 KVCache 分离式架构和 RDMA 高速传输，把预填充与解码拆开部署，提升长上下文场景下的吞吐和资源利用率。
基于飞桨的一站式开发工具，把分类、检测、分割、OCR、语音识别等任务封装成流水线，支持训练到部署全流程。
…，进一步夯实大模型训练的稳定性与正确性。同时，生态兼容能力与昆仑芯 XPU 适配持续深化，开发体验和推理部署能力同步提升。需要说明的是，本版本是最后一个提供 Windows 系统支持的版本。 训练效率提升 Muon 优化器：新增 Muon 优化器，基于 batched GEMM、对称 GEMM 等技术对 Newton-Schulz 正交化
…L-1.6. 2026.5.27 v3.6.0 发布 - 支持 PaddleOCR-VL-1.6 的推理部署能力。 Full Changelog : https://github.com/PaddlePaddle/PaddleX/compare/v3.5.2...v3.6.0
…ps://github.com/PaddlePaddle/Paddle/pull/74837) - 推理部署增加了w4afp8量化推理，支持w4afp8量化权重纯排及all2all通信[ 74270](https://github.com/PaddlePaddle/Paddle/pull/74270) Bug修复 - 核心框架与基础设施优
…强分布式训练场景下FP8量化和流水线并行效率，大幅提升训练吞吐。扩展自动并行架构的切分推导覆盖范围；推理部署提高兼容性的同时进一步增强EP并行推理能力；整体上在保持API兼容性的基础上构建出更稳健、高效的大模型研发技术底座。 算子与执行体系正确性、稳定性增强 ：系统化修复0-size、大shape Tensor、CPU/GPU 精度一致性
…大模型，在学术界权威的英文文档理解评测榜单上达到同参数量级别模型SOTA - 工具链升级：完善高性能推理部署，新增支持Qwen2.5VL系列，A800推理性能较vllm领先11.5%。LLaVA、InternVL2模型训练和推理适配昇腾910B 多模态生成 - 新增模型：Open-MAGVIT2，文生视频模型CogVideoX, Huny
…/develop/llm/application/information extraction)。 推理部署 全面支持DeepSeek V3/R1满血版FP8、INT8、4比特量化推理，MTP投机解码。 FP8推理，单机输出超1000 tokens/s；4比特单机部署，输出超2100 tokens/s！ 首次协同推理团队，发布统一推理部署