OSS Radar
首页
AI 分类
推理与服务5
大模型推理服务 · 向量化 / 重排服务 · 网关与路由
训练与微调6
训练框架 · 参数高效微调 · 后训练 / RLHF
数据工程4
数据集托管 · 数据清洗与处理 · 合成数据
检索与 RAG9
向量数据库 · RAG 框架 · 检索增强引擎
Agent 与编排6
Agent 框架 · 编码 Agent · 电脑 / 浏览器 Agent
评估 · 实验 · MLOps8
模型评测 · Agent 评测 · 实验管理
多模态生成5
图像生成 · 视频生成 · 视觉语言模型
视觉与 3D5
检测 / 分割 · 3D 重建 · 3D 生成
模型工具链8
量化 · 剪枝与蒸馏 · 格式转换
科研与论文实现3
论文复现 · 时序预测 · 科学计算 / 生物医药
开发工具
开发与框架5构建与交付4底层与逆向3
系统工具
系统与文件7图像与影音工具5实用小工具4
效率工具
记录与整理3输入与阅读4
媒体与内容
播放与媒体库4内容处理3
网络工具
访问与代理3连接与传输4
游戏相关
开发与运行2游玩相关2
安全与隐私
攻防与审计3加密与隐私1
硬件与机器人
嵌入式与物联网5机器人与具身智能3
数据与金融
数据库与存储4金融与量化1
探索排行榜开发语言标签
/
周报
本周新增、涨得最快、发了什么版本
对比项目
两个项目并排看 star、维护状态与硬件
数据体检
收录量、完整度缺口、沉睡项目
提交仓库
推荐项目,附上你的使用经验
反馈与纠错
分类错了、介绍不准、链接失效
关于本站
数据来源与分类原则
登录
OSS Radar

按算法工程工作流分类的开源工具库。数据来自 GitHub 公开 API,收录 6,740 个仓库、129 个细分分类。 带 ✦ 的条目有人工撰写的专家点评。

数据最近同步于 2026/11/11 14:07:13 · 本项目仅做聚合与索引,软件版权归原作者所有

浏览

  • 全部仓库
  • AI 分类
  • 排行榜
  • 开发语言
  • 标签与关键词
  • 搜索

关于

  • 关于本站
  • 数据体检
  • 提交仓库
  • 反馈与纠错
  • 偏好设置
  • 我的收藏
  • 我的点评
© 2026 OSS Radar数据每小时级同步 · 内容由算法与人工共同维护
⌘K
「DNN 推理」找到 7 个结果 · 8ms命中词:推理dnninference只看有点评
J
jetson-inference
dusty-nv·C++

面向 NVIDIA Jetson 嵌入式设备的深度学习推理部署指南,用 TensorRT 加速图像识别等视觉任务,配套教程和预训练模型开箱即用。

推理部署+4
90350—
dusty-nv/jetson-inference · 20.79
O
onnx
onnx·Python

ONNX 是开放的机器学习模型交换格式标准,让 PyTorch、TensorFlow、Keras 等框架训练出的模型能互相转换、跨平台部署。

模型交换格式+4
216720—
onnx/onnx · 14.78
G
gocv
hybridgroup·Go

用 Go 语言调用 OpenCV 做计算机视觉的封装库,支持 DNN 推理、CUDA 加速、OpenVINO 和扩展模块,省去写 C++ 胶水代码的麻烦。

计算机视觉+4
75180—
hybridgroup/gocv · 14.63
F
faster-whisper
SYSTRAN·Python

基于 CTranslate2 重实现的 Whisper 语音转文字推理引擎,通过量化与高效推理大幅提速并降低显存占用,适合本地部署转录。

语音识别+4
266610—
SYSTRAN/faster-whisper · 13.46
T
TensorRT
NVIDIA·C++

NVIDIA 官方的高性能深度学习推理 SDK,能把训练好的模型在 NVIDIA GPU 上做极致加速和部署,适合追求低延迟高吞吐的生产推理场景。

推理引擎+4
134470—
NVIDIA/TensorRT · 12.95
A
ASRT_SpeechRecognition
nl8590687·Python

基于深度学习的中文语音识别系统,用 CNN+CTC 把中文语音转成文字,适合搭建本地语音转写服务。

中文语音识别+4
84030—
nl8590687/ASRT_SpeechRecognition · 12.85
W
WhisperLiveKit
QuentinFuxa·Python

本地跑实时语音转文字,带流式识别、说话人分离和翻译,还兼容 OpenAI/Deepgram 接口,适合自建低延迟转写服务。

实时语音识别+4
112330—
QuentinFuxa/WhisperLiveKit · 12.14

发布说明里提到「DNN 推理」

来自 6 个版本
  • kittors/CliRelayv0.6.12026-11-10

    … 6. 安全与脱敏 两种 JSON 解析器会读出不同结果的请求体(重复键、非标准 JSON 等),在推理入口一律回 400( 1267)。 脱敏改动( 1260): 读不到脱敏设置时沿用上次读到的设置,不再当作关闭; 工具数据和工具描述也会被遮; 新共享的账号立即隐藏。 结构化输出 schema 的描述也会被遮( 1263)。 Respo

  • farion1231/cc-switchv4.0.292026-11-10

    …:用 Copilot CLI 自己的 GitHub 登录,不写任何文件。「打开终端」以卡片上的模型和推理强度启动 copilot ;卡片绑定了授权中心的 GitHub 账号时,用这个账号启动。卡片上显示该账号的 Copilot 额度。 - 自带 Key 的供应商 :点「添加」后写进 Copilot 自己的 providers.json (

  • l06066hb/MarKingv1.6.42026-11-10

    … - AI 长文能力 — 上下文超出模型窗口时自动先舍引用笔记再截断正文;生成被截断时自动接续补全;推理过程混入正文的厂商兼容问题修复。 ♻️ 优化 - 界面无障碍 — 全应用下拉菜单支持方向键循环导航、Esc 关闭归还焦点、键盘打开;视觉为屏幕阅读器正确播报当前选中项。 - 文件树缩进线 — 深层嵌套的每一层祖先都显示引导线,目录结构一

  • rootsongjc/kubernetes-handbookv2026.11.102026-11-10

    …便于检索;引入 part 层级,全书骨架更清晰。 - AI Native 章节重构 :HAMi 本地推理文档与脚本面向 macOS 重构,KAITO、KubeFleet 等 AI 推理基础设施内容增强。 - 书单页更新 :收录多本云原生书籍的翻译进度与导读信息。 内容质量提升 - 补全缺失的 front matter 描述字段,修复多处失

  • ArcReel/ArcReelv0.36.02026-11-10

    …cReel/ArcReel/issues/3570) asset-library: 参考生视频按实际推理凭证使用供应商素材,入库未完成或失败时明确报错 ([91a1759](https://github.com/ArcReel/ArcReel/commit/91a17599f927bc5c348e9c0575f02def39e3a30c)

  • langbot-app/LangBotv4.11.52026-11-10

    …、公众号自动模式主动发送、QQ 官方表情解析;新增 NVIDIA NIM 与 MiniMax 发现/推理回放。Native event-based LINE adapter, Slack threads, Official Account proactive sends, QQ Official faces; NVIDIA NIM and