跨平台高性能推理与训练加速引擎,可直接加载 ONNX 模型,兼容 PyTorch、TensorFlow 等框架导出,解决模型在不同硬件上高效部署的问题。
基于 Kokoro 模型和 ONNX Runtime 的轻量级语音合成方案,用 Python 就能在本地跑出高质量 TTS,省去复杂环境配置。
把 PaddleOCR 的模型转成 ONNX 推理,彻底摆脱 PaddlePaddle 框架依赖,轻量部署、推理速度很快,适合做通用 OCR、表格识别和车牌识别。
把 PaddlePaddle 训练好的模型导出成 ONNX 格式,方便用 ONNX Runtime 等推理引擎部署,覆盖分类、检测、OCR 等模型。
把微软 ONNX Runtime 封装成 Go 库,让 Go 程序能直接加载和推理 ONNX 模型,省去跨语言调用的麻烦。
预训练的企业级语音活动检测(VAD)模型,能精准切分音频中的说话段与静音段,支持 ONNX 和 PyTorch 部署,适合语音识别、语音指令等场景的前置处理。
基于 ONNX Runtime、OpenVINO、PaddlePaddle 等多家推理后端的 OCR 工具包,支持多语言识别,方便在不同硬件上快速部署文字检测与识别。
OBS 直播/录屏插件,用 ONNX Runtime 做实时人像背景分割,一键抠掉摄像头背景换成任意画面。
一个轻量级 C++ AI 工具包,集成 100+ 模型,支持 MNN、ONNX Runtime 和 TensorRT 推理,覆盖目标检测、分割、Stable Diffusion、人脸融合等任务。
基于 ONNX Runtime 和 DirectX 12 的图像/视频 AI 超分工具,带图形界面,支持 N 卡、A 卡和 Intel 显卡,可降噪、去压缩伪影,适合修复动漫和漫画素材。
用 Rust 封装 ONNX Runtime,让 ONNX 模型在 Rust 里跑推理和训练都很快,适合需要低延迟、无 Python 依赖的部署场景。
轻量级裸露内容检测模型,可识别图片中的 NSFW 内容,支持 Keras 和 ONNX Runtime 推理,适合做内容审核和过滤。
面向 Windows 开发者的开源示例库,演示如何用本地模型和 API 给 Windows 应用加上 AI 能力,覆盖 ONNX Runtime、DirectML 和 NPU 加速。
在 CPU 上实时做人脸检测和面部关键点跟踪,附带 Unity 集成,适合做虚拟形象、动捕这类不需要 GPU 的场景。
一款简单易用、高性能的 AI 部署框架,支持 ONNX Runtime、MNN、昇腾等多种推理后端,用低代码方式把深度学习模型和生成式 AI 应用部署到各类硬件上。
在 Node.js/TypeScript 里通过 ONNX Runtime 本地跑 Laya 这个兼容 Jev 的开源 System-1 决策模型,做分类和推理,不用依赖云端。
把 YOLOv5 模型部署到 TensorRT、LibTorch、ONNX Runtime、TVM、NCNN 等推理后端的运行时工具链,省去自己写适配代码。
轻量级车牌文字识别 OCR 模型,支持 Keras、JAX 和 ONNX Runtime,可快速集成到车牌识别流水线中。
为 VapourSynth 视频处理框架提供 CPU/GPU 高效推理运行时,内置 waifu2x、Real-ESRGAN、RIFE、Real-CUGAN 等超分、降噪、插帧模型,方便在视频后期流程里直接调用。
面向 NVIDIA GPU 的深度学习推理调优工具包,帮助把训练好的模型调优并部署到 TensorRT、ONNX Runtime 等推理后端上跑得更快。
把 YOLOX 目标检测封装成 ROS2 节点,支持 ONNX Runtime、OpenVINO、TensorRT、TFLite 等多种推理后端,方便机器人项目直接接入实时检测。
用 Rust 封装 ONNX Runtime 跑 Ultralytics YOLO 推理,支持 CUDA、CoreML、OpenVINO 等 GPU 后端,还带命令行和 WebGPU/WASM,方便在本地或浏览器里做目标检测、分割、姿态估计。
… on top of [v1.30.0](https://github.com/microsoft/onnxruntime/releases/tag/v1.30.0), containing targeted model-validation and memory-safety fixes, improved Plugin EP data
…n AMD GPUs ([ 32667](https://github.com/microsoft/onnxruntime/pull/32667)). - Added an FP16 GEMV specialization for single-row decode projections ([ 33070](https://github.
…on enabled ([ 33327](https://github.com/microsoft/onnxruntime/pull/33327)). - Fixed WASM Debug test failures by skipping file-backed external-data cases unsupported by the
…e bindings ([ 33166](https://github.com/microsoft/onnxruntime/pull/33166), [ 32265](https://github.com/microsoft/onnxruntime/pull/32265)). - Reduced CPU session-initializa
…the plugin ([ 32855](https://github.com/microsoft/onnxruntime/pull/32855)). The matched ONNX Runtime version is 1.31.0 for this release. Highlights Plugin Runtime and CUDA
- onnxruntime is now an optional dependency instead of required. You now need to install ONNX Runtime explicitly: pip install onnxruntime for CPU pip install onnxruntime-g