OSS Radar
首页
AI 分类
推理与服务5
大模型推理服务 · 向量化 / 重排服务 · 网关与路由
训练与微调6
训练框架 · 参数高效微调 · 后训练 / RLHF
数据工程4
数据集托管 · 数据清洗与处理 · 合成数据
检索与 RAG9
向量数据库 · RAG 框架 · 检索增强引擎
Agent 与编排6
Agent 框架 · 编码 Agent · 电脑 / 浏览器 Agent
评估 · 实验 · MLOps8
模型评测 · Agent 评测 · 实验管理
多模态生成5
图像生成 · 视频生成 · 视觉语言模型
视觉与 3D5
检测 / 分割 · 3D 重建 · 3D 生成
模型工具链8
量化 · 剪枝与蒸馏 · 格式转换
科研与论文实现3
论文复现 · 时序预测 · 科学计算 / 生物医药
开发工具
开发与框架5构建与交付4底层与逆向3
系统工具
系统与文件7图像与影音工具5实用小工具4
效率工具
记录与整理3输入与阅读4
媒体与内容
播放与媒体库4内容处理3
网络工具
访问与代理3连接与传输4
游戏相关
开发与运行2游玩相关2
安全与隐私
攻防与审计3加密与隐私1
硬件与机器人
嵌入式与物联网5机器人与具身智能3
数据与金融
数据库与存储4金融与量化1
探索排行榜开发语言标签
/
周报
本周新增、涨得最快、发了什么版本
对比项目
两个项目并排看 star、维护状态与硬件
数据体检
收录量、完整度缺口、沉睡项目
提交仓库
推荐项目,附上你的使用经验
反馈与纠错
分类错了、介绍不准、链接失效
关于本站
数据来源与分类原则
登录
OSS Radar

按算法工程工作流分类的开源工具库。数据来自 GitHub 公开 API,收录 6,740 个仓库、129 个细分分类。 带 ✦ 的条目有人工撰写的专家点评。

数据最近同步于 2026/11/11 14:07:13 · 本项目仅做聚合与索引,软件版权归原作者所有

浏览

  • 全部仓库
  • AI 分类
  • 排行榜
  • 开发语言
  • 标签与关键词
  • 搜索

关于

  • 关于本站
  • 数据体检
  • 提交仓库
  • 反馈与纠错
  • 偏好设置
  • 我的收藏
  • 我的点评
© 2026 OSS Radar数据每小时级同步 · 内容由算法与人工共同维护
⌘K
「ONNX推理」找到 43 个结果 · 26ms命中词:推理onnxinference只看有点评
O
onnxruntime
microsoft·C++

跨平台高性能推理与训练加速引擎,可直接加载 ONNX 模型,兼容 PyTorch、TensorFlow 等框架导出,解决模型在不同硬件上高效部署的问题。

推理引擎+4
222840—
microsoft/onnxruntime · 22.15
S
sherpa-onnx
k2-fsa·C++

基于新一代 Kaldi 和 onnxruntime 的离线语音工具包,一套搞定语音识别、合成、说话人分离、降噪、声源分离和 VAD,可跑在嵌入式、手机和服务器上。

语音识别+4
158820—
k2-fsa/sherpa-onnx · 21.53
O
onnx
onnx·Python

ONNX 是开放的机器学习模型交换格式标准,让 PyTorch、TensorFlow、Keras 等框架训练出的模型能互相转换、跨平台部署。

模型交换格式+4
216720—
onnx/onnx · 21.4
M
models
onnx·Jupyter Notebook

提供大量预训练、前沿的 ONNX 格式模型,可直接下载用于推理部署或迁移学习,省去自己转换和训练的成本。

ONNX模型库+4
98540—
onnx/models · 21.21
S
server
triton-inference-server·Python

面向云端和数据中心的高性能推理服务端,支持多种深度学习框架模型部署,并可在边缘设备上运行。

推理服务+4
111360—
triton-inference-server/server · 19.94
T
text-embeddings-inference
huggingface·Rust

面向文本嵌入模型的高性能推理服务,用 Rust 编写,可快速把文本转成向量,适合搭建检索和 RAG 的向量化后端。

文本嵌入+4
51190—
huggingface/text-embeddings-inference · 17.86
Y
yolov5
ultralytics·Python

基于 PyTorch 的目标检测全家桶,覆盖训练、推理、实例分割、图像分类和模型导出,开箱即用,适合快速落地视觉任务。

目标检测+4
582590—
ultralytics/yolov5 · 13.74
N
ncnn
Tencent·C++

面向手机端的高性能神经网络推理框架,针对 ARM 平台深度优化,让 Caffe、ONNX 等模型能在 Android/iOS 上低延迟运行。

推理框架+4
240370—
Tencent/ncnn · 13.66
N
netron
lutzroeder·JavaScript

把 ONNX、PyTorch、Keras、CoreML 等格式的神经网络模型直接拖进浏览器就能看结构图,排查模型转换和层连接问题很方便。

模型可视化+4
336770—
lutzroeder/netron · 13.6
B
burn
tracel-ai·Rust

Rust 写的张量库和深度学习框架,兼顾灵活性与效率,支持自动微分、跨平台后端和内核融合,可训练和部署神经网络。

深度学习框架+4
162670—
tracel-ai/burn · 13.27
R
RapidOCR
RapidAI·Python

基于 ONNX Runtime、OpenVINO、PaddlePaddle 等多家推理后端的 OCR 工具包,支持多语言识别,方便在不同硬件上快速部署文字检测与识别。

OCR+4
85080—
RapidAI/RapidOCR · 13.24
Y
yolov3
ultralytics·Python

基于 PyTorch 的 YOLOv3 系列实现,覆盖训练、验证、推理全流程,并支持导出 ONNX、CoreML、TensorRT 等多种格式,方便做实时目标检测和边缘部署。

目标检测+4
106380—
ultralytics/yolov3 · 13.05
S
silero-vad
snakers4·Python

预训练的企业级语音活动检测(VAD)模型,能精准切分音频中的说话段与静音段,支持 ONNX 和 PyTorch 部署,适合语音识别、语音指令等场景的前置处理。

语音活动检测+4
106360—
snakers4/silero-vad · 12.9
Y
YOLOX
Megvii-BaseDetection·Python

高性能无锚框 YOLO 目标检测器,精度超过 YOLOv3~v5,支持 MegEngine、ONNX、TensorRT、ncnn 和 OpenVINO 多后端部署。

目标检测+4
107030—
Megvii-BaseDetection/YOLOX · 12.8
R
RTranslator
niedev·Java

在 Android 手机上本地跑 NLLB 模型的实时翻译 App,支持蓝牙耳机对话翻译,全程离线不联网也能用。

离线翻译+4
106320—
niedev/RTranslator · 12.79
T
transformers.js
huggingface·JavaScript

在浏览器里直接跑 Hugging Face 的 Transformer 模型,不用后端服务器,前端就能做文本、视觉等机器学习推理。

浏览器推理+4
164120—
huggingface/transformers.js · 12.74
T
TensorRT
NVIDIA·C++

NVIDIA 官方的高性能深度学习推理 SDK,能把训练好的模型在 NVIDIA GPU 上做极致加速和部署,适合追求低延迟高吞吐的生产推理场景。

推理引擎+4
134470—
NVIDIA/TensorRT · 12.66
X
X-AnyLabeling
CVHub520·Python

跨平台桌面标注工具,支持文本、图像、视频、点云和多模态数据,内置 AI 模型辅助预标注,可导出多种格式。

数据标注+4
109440—
CVHub520/X-AnyLabeling · 12.65
G
gocv
hybridgroup·Go

用 Go 语言调用 OpenCV 做计算机视觉的封装库,支持 DNN 推理、CUDA 加速、OpenVINO 和扩展模块,省去写 C++ 胶水代码的麻烦。

计算机视觉+4
75180—
hybridgroup/gocv · 12.57
M
MNN
alibaba·C++

阿里开源的轻量级端侧推理引擎,主打手机和嵌入式设备上的高性能模型推理,能跑大模型和常规深度学习网络。

推理引擎+4
164930—
alibaba/MNN · 12.55
B
background-removal-js
imgly·TypeScript

在浏览器里直接完成图片抠图去背景,无需上传服务器,兼顾隐私和零成本,适合前端集成。

抠图+4
73740—
imgly/background-removal-js · 12.49
B
B
AhmadHassan-BTed·Python

一个能自主感知上下文的桌面 AI 伴侣,通过实时屏幕视觉、窗口追踪和 ONNX 语音合成,配合带表情的悬浮界面与你互动。

桌面助手+4
51970—
AhmadHassan-BTed/B · 12.44
L
lemonade
lemonade-sdk·C++

在本地 GPU 和 NPU 上直接跑优化后的大模型,帮用户发现并启动本地 AI 应用,省去自己折腾推理环境的麻烦。

本地推理+4
61820—
lemonade-sdk/lemonade · 12.44
L
llmware
llmware-ai·Python

用小型专用模型搭建企业级 RAG 流水线的统一框架,覆盖文档解析、检索和智能体编排,适合在本地或私有环境部署。

RAG流水线+4
148220—
llmware-ai/llmware · 12.41
M
magika
google·Rust

用深度学习快速准确地识别文件真实类型,不依赖扩展名,支持 MIME 检测,Rust 实现,可嵌入各类应用做内容安全与文件分类。

文件类型检测+4
187910—
google/magika · 12.33
R
rembg
danielgatis·Python

用 Python 一行命令就能抠掉图片背景,基于预训练模型自动识别主体,省去手动抠图的麻烦。

抠图+3
254230—
danielgatis/rembg · 12.29
S
SmartSub
buxuku·TypeScript

一站式桌面工具,用本地 Whisper、FunASR 等模型离线把视频转成字幕,还能翻译、AI 配音、声音克隆和烧录字幕,支持批量处理与全平台 GPU 加速。

语音转字幕+4
60080—
buxuku/SmartSub · 12.24
L
langchain4j
langchain4j·Java

面向 JVM 的 Java LLM 应用开发库,统一封装主流大模型与向量库接口,让工具调用、Agent 和 RAG 在 Spring Boot、Quarkus 等企业框架里快速落地。

Java LLM 库+4
133910—
langchain4j/langchain4j · 12.08
S
SynapseML
microsoft·Scala

基于 Spark 的分布式机器学习库,把 LightGBM、深度学习、认知服务等算法封装成易用 API,让大数据场景下的训练和推理可以直接在集群上跑。

分布式机器学习+4
52550—
microsoft/SynapseML · 12.05
T
tensorrtx
wang-xinyu·C++

用 TensorRT 网络定义 API 手写实现 YOLO、ResNet、Swin Transformer 等主流深度学习模型,并附 C++ 推理代码,方便直接部署到 NVIDIA GPU。

TensorRT+4
78420—
wang-xinyu/tensorrtx · 12
T
tvm
apache·Python

把深度学习模型编译到 CPU、GPU 及各类加速器上运行的开源编译器框架,通过统一中间表示和自动调优提升推理性能。

深度学习编译器+4
138980—
apache/tvm · 11.54
C
chineseocr_lite
DayBreak-u·C++

超轻量级中文 OCR 工具,总模型仅 4.7M,支持竖排文字识别,可在 ncnn、MNN、TNN 等推理后端运行,适合端侧和低资源场景部署。

中文OCR+4
123540—
DayBreak-u/chineseocr_lite · 11.44
O
openvino
openvinotoolkit·C++

把训练好的深度学习模型优化并部署到 Intel CPU、GPU 等硬件上做推理,支持视觉、LLM 和生成式模型,省去自己折腾底层加速的麻烦。

推理引擎+4
111460—
openvinotoolkit/openvino · 11.41
U
ultralytics
ultralytics·Python

YOLO 系列官方实现库,一套 PyTorch 代码覆盖目标检测、实例与语义分割、图像分类、姿态估计和目标跟踪,训练到部署全流程打通。

目标检测+4
632940—
ultralytics/ultralytics · 11.39
B
boxmot
mikel-brostrom·Python

提供可插拔的 Python 和 C++ 多目标跟踪模块,集成 BoT-SORT、ByteTrack、OC-SORT 等 SOTA 算法,支持轴对齐与旋转框跟踪。

多目标跟踪+4
83250—
mikel-brostrom/boxmot · 11.3
P
pytorch-image-models
huggingface·Python

收录最全的 PyTorch 图像骨干网络合集,涵盖 ResNet、ViT、ConvNeXt 等主流模型,自带训练、评估、推理和导出脚本及预训练权重,省去自己搭网络和找权重的麻烦。

图像分类+4
372740—
huggingface/pytorch-image-models · 11.29
D
detectron2
facebookresearch·Python

Detectron2 是 Facebook 开源的目标检测与分割平台,提供模块化架构和丰富预训练模型,方便快速搭建和训练视觉识别任务。

目标检测+4
349820—
facebookresearch/detectron2 · 11.2
K
kserve
kserve·Go

在 Kubernetes 上统一部署生成式与预测式 AI 模型的推理平台,支持多框架、可扩展的分布式推理服务。

推理平台+4
62150—
kserve/kserve · 11.18
R
router
weave-os·Go

面向 Agent 系统的模型路由网关,50ms 内把每个请求分派到最合适的模型,只改一个 endpoint 就能省下 40-70% 成本。

模型路由+4
56190—
weave-os/router · 10.8
O
openwhispr
OpenWhispr·JavaScript

跨平台语音转文字听写应用,支持本地 Nvidia Parakeet/Whisper 模型和自带密钥的云端模型,主打隐私优先。

语音转文字+4
112640—
OpenWhispr/openwhispr · 10.77