跨平台高性能推理与训练加速引擎,可直接加载 ONNX 模型,兼容 PyTorch、TensorFlow 等框架导出,解决模型在不同硬件上高效部署的问题。
ONNX 是开放的机器学习模型交换格式标准,让 PyTorch、TensorFlow、Keras 等框架训练出的模型能互相转换、跨平台部署。
基于新一代 Kaldi 和 onnxruntime 的离线语音工具包,一套搞定语音识别、合成、说话人分离、降噪、声源分离和 VAD,可跑在嵌入式、手机和服务器上。
提供大量预训练、前沿的 ONNX 格式模型,可直接下载用于推理部署或迁移学习,省去自己转换和训练的成本。
把 PyTorch 等导出的 ONNX 模型做图优化和算子融合,去掉冗余节点、简化计算图,方便部署和推理加速。
把 ONNX 模型直接转成 TensorRT 引擎的官方解析器,让训练好的模型能在 NVIDIA GPU 上做高性能推理部署。
基于 Kokoro 模型和 ONNX Runtime 的轻量级语音合成方案,用 Python 就能在本地跑出高质量 TTS,省去复杂环境配置。
把 TensorFlow、Keras、TensorFlow.js 和 TFLite 模型一键转成 ONNX 格式,方便跨框架部署和推理。
用 C++ 写的轻量级 ONNX 推理库,靠流式加载把内存压到极低,能在树莓派 Zero 2 或 298MB 内存里跑 Stable Diffusion XL 1.0,桌面端也能跑 Mistral 7B。
把 PaddleOCR 的模型转成 ONNX 推理,彻底摆脱 PaddlePaddle 框架依赖,轻量部署、推理速度很快,适合做通用 OCR、表格识别和车牌识别。
基于 Netron 和 Flask 的可视化 ONNX 模型编辑器,直接在浏览器里查看并修改模型结构,省去手写脚本的麻烦。
把 ONNX 模型转成 TensorFlow 格式,方便在 TensorFlow 生态里直接加载和运行其他框架训练好的模型。
把 Keras、scikit-learn、LightGBM 等训练好的模型转成 ONNX 格式,方便跨框架部署和推理。
把 ONNX 模型一键转成 TFLite、TensorFlow、PyTorch 原生代码或 TorchScript,省去跨框架部署时手写转换脚本的麻烦。
把 PaddlePaddle 训练好的模型导出成 ONNX 格式,方便用 ONNX Runtime 等推理引擎部署,覆盖分类、检测、OCR 等模型。
对 ONNX 模型做图级优化的 Python 工具,通过算子融合、常量折叠等变换精简计算图,让推理更快、模型更小。
把微软 ONNX Runtime 封装成 Go 库,让 Go 程序能直接加载和推理 ONNX 模型,省去跨语言调用的麻烦。
把 ONNX 模型直接转成 PyTorch 网络,方便在 PyTorch 里继续微调或调试,省去手工重搭结构的麻烦。
把 scikit-learn 训练好的模型和 Pipeline 转成 ONNX 格式,方便跨框架部署和推理加速。
把 ONNX 模型转成 Keras 或 TFLite 的转换工具,方便将 PyTorch 训练好的模型部署到移动端和嵌入式设备,还支持量化。
纯 C99 实现的轻量级 ONNX 推理引擎,专为嵌入式设备设计,支持硬件加速,让单片机也能跑深度学习模型。
一款 ONNX 模型优化工具,通过精简计算图和冗余节点来减小模型体积、提升推理速度,适合部署前做模型瘦身。
解析、编辑、优化和性能分析 ONNX 模型的 Python 工具,方便查看模型结构、修改计算图并定位推理瓶颈。
把 ONNX 模型编译成纯 C 代码,方便在单片机和边缘设备上直接跑推理,不用带完整运行时。
面向 ONNX 工作流的无代码命令行工具,能一键完成模型转换、基准测试和本地部署,省去手写脚本的麻烦。
ONNXim 是一个周期级多核 NPU 模拟器,能快速仿真 DNN 推理在 NPU 上的执行过程,帮助评估和优化硬件设计。
把 ONNX、PyTorch、Keras、CoreML 等格式的神经网络模型直接拖进浏览器就能看结构图,排查模型转换和层连接问题很方便。
基于 PyTorch 的目标检测全家桶,覆盖训练、推理、实例分割、图像分类和模型导出,开箱即用,适合快速落地视觉任务。
面向手机端的高性能神经网络推理框架,针对 ARM 平台深度优化,让 Caffe、ONNX 等模型能在 Android/iOS 上低延迟运行。
…Multilingual TTS — running natively via ONNX.
预训练的企业级语音活动检测(VAD)模型,能精准切分音频中的说话段与静音段,支持 ONNX 和 PyTorch 部署,适合语音识别、语音指令等场景的前置处理。
用深度学习快速准确地识别文件真实类型,不依赖扩展名,支持 MIME 检测,Rust 实现,可嵌入各类应用做内容安全与文件分类。
基于 ONNX Runtime、OpenVINO、PaddlePaddle 等多家推理后端的 OCR 工具包,支持多语言识别,方便在不同硬件上快速部署文字检测与识别。
高性能无锚框 YOLO 目标检测器,精度超过 YOLOv3~v5,支持 MegEngine、ONNX、TensorRT、ncnn 和 OpenVINO 多后端部署。
在 Android 手机上本地跑 NLLB 模型的实时翻译 App,支持蓝牙耳机对话翻译,全程离线不联网也能用。
Rust 写的张量库和深度学习框架,兼顾灵活性与效率,支持自动微分、跨平台后端和内核融合,可训练和部署神经网络。
基于 PyTorch 的 YOLOv3 系列实现,覆盖训练、验证、推理全流程,并支持导出 ONNX、CoreML、TensorRT 等多种格式,方便做实时目标检测和边缘部署。
用小型专用模型搭建企业级 RAG 流水线的统一框架,覆盖文档解析、检索和智能体编排,适合在本地或私有环境部署。
在浏览器里直接完成图片抠图去背景,无需上传服务器,兼顾隐私和零成本,适合前端集成。
面向 JVM 的 Java LLM 应用开发库,统一封装主流大模型与向量库接口,让工具调用、Agent 和 RAG 在 Spring Boot、Quarkus 等企业框架里快速落地。
ONNX v1.23.0 is now available with exciting new features! We would like to thank everyone who contributed to this release! Please visit [onnx.ai](https://onnx.ai/) to lea
…plification by @take-cheeze in https://github.com/onnxsim/onnxsim/pull/491 Implement deferred folding for large-tensor constant ops by @take-cheeze in https://github.com/
ONNX v1.22.0 is now available with exciting new features! We would like to thank everyone who contributed to this release! Please visit [onnx.ai](https://onnx.ai/) to lea
ONNX v1.21.0 is now available with exciting new features! We would like to thank everyone who contributed to this release! Please visit [onnx.ai](https://onnx.ai/) to lea
…windows tests. by @fatcat-z in https://github.com/onnx/tensorflow-onnx/pull/2294 fix: make onnx node with attr() supports empty strings by @mys007 in https://github.com/o
…windows tests. by @fatcat-z in https://github.com/onnx/tensorflow-onnx/pull/2294 fix: make onnx node with attr() supports empty strings by @mys007 in https://github.com/o