OSS Radar
首页
AI 分类
推理与服务5
大模型推理服务 · 向量化 / 重排服务 · 网关与路由
训练与微调6
训练框架 · 参数高效微调 · 后训练 / RLHF
数据工程4
数据集托管 · 数据清洗与处理 · 合成数据
检索与 RAG9
向量数据库 · RAG 框架 · 检索增强引擎
Agent 与编排6
Agent 框架 · 编码 Agent · 电脑 / 浏览器 Agent
评估 · 实验 · MLOps8
模型评测 · Agent 评测 · 实验管理
多模态生成5
图像生成 · 视频生成 · 视觉语言模型
视觉与 3D5
检测 / 分割 · 3D 重建 · 3D 生成
模型工具链8
量化 · 剪枝与蒸馏 · 格式转换
科研与论文实现3
论文复现 · 时序预测 · 科学计算 / 生物医药
开发工具
开发与框架5构建与交付4底层与逆向3
系统工具
系统与文件7图像与影音工具5实用小工具4
效率工具
记录与整理3输入与阅读4
媒体与内容
播放与媒体库4内容处理3
网络工具
访问与代理3连接与传输4
游戏相关
开发与运行2游玩相关2
安全与隐私
攻防与审计3加密与隐私1
硬件与机器人
嵌入式与物联网5机器人与具身智能3
数据与金融
数据库与存储4金融与量化1
探索排行榜开发语言标签
/
周报
本周新增、涨得最快、发了什么版本
对比项目
两个项目并排看 star、维护状态与硬件
数据体检
收录量、完整度缺口、沉睡项目
提交仓库
推荐项目,附上你的使用经验
反馈与纠错
分类错了、介绍不准、链接失效
关于本站
数据来源与分类原则
登录
OSS Radar

按算法工程工作流分类的开源工具库。数据来自 GitHub 公开 API,收录 6,740 个仓库、129 个细分分类。 带 ✦ 的条目有人工撰写的专家点评。

数据最近同步于 2026/11/11 14:07:13 · 本项目仅做聚合与索引,软件版权归原作者所有

浏览

  • 全部仓库
  • AI 分类
  • 排行榜
  • 开发语言
  • 标签与关键词
  • 搜索

关于

  • 关于本站
  • 数据体检
  • 提交仓库
  • 反馈与纠错
  • 偏好设置
  • 我的收藏
  • 我的点评
© 2026 OSS Radar数据每小时级同步 · 内容由算法与人工共同维护
⌘K
「深度推理」找到 41 个结果 · 20ms命中词:深度推理inference只看有点评
S
server
triton-inference-server·Python

面向云端和数据中心的高性能推理服务端,支持多种深度学习框架模型部署,并可在边缘设备上运行。

推理服务+4
111360—
triton-inference-server/server · 17.1
J
jetson-inference
dusty-nv·C++

面向 NVIDIA Jetson 嵌入式设备的深度学习推理部署指南,用 TensorRT 加速图像识别等视觉任务,配套教程和预训练模型开箱即用。

推理部署+4
90350—
dusty-nv/jetson-inference · 16.87
P
Paddle
PaddlePaddle·C++

飞桨核心框架,提供深度学习与机器学习的高性能单机及分布式训练能力,并支持跨平台部署,适合工业级模型开发。

深度学习框架+4
241420—
PaddlePaddle/Paddle · 12.05
D
DeepResearch
Alibaba-NLP·Python

通义开源深度研究智能体,能自主规划多步检索、浏览网页并整合信息,产出带引用的研究报告,适合做调研问答和资料汇总。

深度研究+4
201280—
Alibaba-NLP/DeepResearch · 11.98
O
opencv
opencv·C++

开源计算机视觉库,提供图像处理、视频分析和深度学习推理的 C++ 接口,是视觉应用开发的基础设施。

计算机视觉+4
915310—
opencv/opencv · 11.91
A
ASRT_SpeechRecognition
nl8590687·Python

基于深度学习的中文语音识别系统,用 CNN+CTC 把中文语音转成文字,适合搭建本地语音转写服务。

中文语音识别+4
84040—
nl8590687/ASRT_SpeechRecognition · 11.55
D
deep-searcher
zilliztech·Python

用 Python 写的开源深度研究工具,能对私有数据做推理式检索,替代闭源深度研究方案,支持接入 Milvus 和多种大模型。

深度研究+4
83890—
zilliztech/deep-searcher · 11.54
B
burn
tracel-ai·Rust

Rust 写的张量库和深度学习框架,兼顾灵活性与效率,支持自动微分、跨平台后端和内核融合,可训练和部署神经网络。

深度学习框架+4
162670—
tracel-ai/burn · 11.3
T
TensorRT
NVIDIA·C++

NVIDIA 官方的高性能深度学习推理 SDK,能把训练好的模型在 NVIDIA GPU 上做极致加速和部署,适合追求低延迟高吞吐的生产推理场景。

推理引擎+4
134490—
NVIDIA/TensorRT · 11.25
N
nnUNet
MIC-DKFZ·Python

医学影像分割的深度学习工具箱,开箱即用,能自动配置训练流程,在 CT、MRI 等 3D 数据上达到竞赛级精度。

医学影像分割+4
90340—
MIC-DKFZ/nnUNet · 11.25
T
tvm
apache·Python

把深度学习模型编译到 CPU、GPU 及各类加速器上运行的开源编译器框架,通过统一中间表示和自动调优提升推理性能。

深度学习编译器+4
138980—
apache/tvm · 11.25
U
ultimatevocalremovergui
Anjok07·Python

基于深度神经网络的图形化人声分离工具,可把歌曲拆成人声和伴奏,方便做卡拉OK伴奏或二次混音。

人声分离+4
271000—
Anjok07/ultimatevocalremovergui · 10.9
L
learn-ai-engineering
ashishps1

一份免费的 AI 与 LLM 学习路线合集,把从深度学习基础到 RAG、Agent、提示工程的资料串成体系,适合想系统入门或补课的人按图索骥。

LLM 学习路线+4
62260—
ashishps1/learn-ai-engineering · 10.87
N
ncnn
Tencent·C++

面向手机端的高性能神经网络推理框架,针对 ARM 平台深度优化,让 Caffe、ONNX 等模型能在 Android/iOS 上低延迟运行。

推理框架+4
240390—
Tencent/ncnn · 10.86
D
deep-learning-drizzle
kmario23·HTML

汇总深度学习、强化学习、计算机视觉和 NLP 等方向的优质公开课与讲座资源,适合系统入门或查漏补缺。

深度学习课程+4
129880—
kmario23/deep-learning-drizzle · 10.85
P
PageIndex
VectifyAI·Python

面向 RAG 的文档索引方案,不依赖向量数据库,用推理方式定位和检索文档内容,适合构建 Agent 式检索流程。

文档索引+4
403690—
VectifyAI/PageIndex · 10.75
T
techniques
satellite-image-deep-learning

汇集卫星与航拍影像深度学习的技术清单,涵盖数据集、模型与工具,帮遥感从业者快速找到可用的方法和资源。

遥感影像+4
103040—
satellite-image-deep-learning/techniques · 10.7
M
MNN
alibaba·C++

阿里开源的轻量级端侧推理引擎,主打手机和嵌入式设备上的高性能模型推理,能跑大模型和常规深度学习网络。

推理引擎+4
164960—
alibaba/MNN · 10.69
S
SynapseML
microsoft·Scala

基于 Spark 的分布式机器学习库,把 LightGBM、深度学习、认知服务等算法封装成易用 API,让大数据场景下的训练和推理可以直接在集群上跑。

分布式机器学习+4
52550—
microsoft/SynapseML · 10.69
S
SillyTavern
SillyTavern·JavaScript

面向重度用户的大语言模型聊天前端,支持接入多种模型接口,提供角色卡、提示词管理和对话历史等进阶功能,适合深度定制 AI 角色扮演与对话体验。

聊天前端+4
355300—
SillyTavern/SillyTavern · 10.59
C
cube-studio
tencentmusic

云原生一站式机器学习与大模型平台,覆盖 Notebook 开发、拖拉拽 Pipeline 编排、分布式训练、超参搜索、推理服务和 SFT/强化学习微调,支持国产算力生态。

云原生+4
50840—
tencentmusic/cube-studio · 10.58
O
OpenMythos
kyegomez·Python

从公开研究文献出发,用第一性原理复现 Claude Mythos 架构的理论实现,供研究者拆解其注意力机制与模型设计思路。

模型架构复现+3
149210—
kyegomez/OpenMythos · 10.37
M
magika
google·Rust

用深度学习快速准确地识别文件真实类型,不依赖扩展名,支持 MIME 检测,Rust 实现,可嵌入各类应用做内容安全与文件分类。

文件类型检测+4
187900—
google/magika · 10.36
O
openvino
openvinotoolkit·C++

把训练好的深度学习模型优化并部署到 Intel CPU、GPU 等硬件上做推理,支持视觉、LLM 和生成式模型,省去自己折腾底层加速的麻烦。

推理引擎+4
111470—
openvinotoolkit/openvino · 10.29
T
tensorrtx
wang-xinyu·C++

用 TensorRT 网络定义 API 手写实现 YOLO、ResNet、Swin Transformer 等主流深度学习模型,并附 C++ 推理代码,方便直接部署到 NVIDIA GPU。

TensorRT+4
78420—
wang-xinyu/tensorrtx · 10.12
M
MONAI
Project-MONAI·Python

基于 PyTorch 的医学影像深度学习工具包,提供数据加载、预处理、网络结构和评估等组件,帮研究者快速搭建医疗影像 AI 流程。

医学影像+4
88370—
Project-MONAI/MONAI · 10.11
D
DeepSpeed
deepspeedai·Python

基于 PyTorch 的深度学习优化库,通过 ZeRO、模型并行和混合专家等技术,让千亿到万亿参数模型的分布式训练与推理更省显存、更高效。

分布式训练+4
433210—
deepspeedai/DeepSpeed · 10.04
S
so-vits-svc-fork
voicepaw·Python

基于 so-vits-svc 改进的歌声与语音转换工具,支持实时变声、更友好的操作界面和更多功能,适合做 AI 翻唱和音色克隆。

语音转换+4
93270—
voicepaw/so-vits-svc-fork · 10.01
D
DALI
NVIDIA·C++

GPU 加速的数据预处理库,提供高度优化的图像、音频处理算子和执行引擎,解决深度学习训练中数据管道拖慢 GPU 的瓶颈。

GPU加速+4
57940—
NVIDIA/DALI · 9.88
L
local-deep-research
LearningCircuit·Python

本地优先的深度研究问答系统,接 llama.cpp、Ollama 等本地或云端模型,聚合 arXiv、PubMed 及私有文档等十余个检索源,全程加密。

深度研究+4
95660—
LearningCircuit/local-deep-research · 9.62
T
triton
triton-lang·MLIR

Triton 是一门面向 GPU 编程的类 Python 语言及其编译器,让开发者不用写 CUDA 就能写出接近手写性能的高效内核。

GPU 编程+4
205540—
triton-lang/triton · 9.56
A
agentgateway
agentgateway·Rust

面向 AI Agent 和 MCP 服务器的下一代代理网关,用 Rust 编写,把 Agent 与模型、工具之间的流量统一接入、路由和管控。

AI 网关+4
61210—
agentgateway/agentgateway · 9.52
O
oh-my-pi
can1357·TypeScript

把 IDE 直接接进终端的编码智能体,支持 Claude、OpenAI 等多模型和 MCP,让命令行里也能完成读写代码、调用工具的完整开发流程。

编码智能体+4
386850—
can1357/oh-my-pi · 9.5
E
External-Attention-pytorch
xmu-xiaoma666·Python

用 PyTorch 复现了注意力机制、MLP、重参数化和卷积等常见模块,方便对照论文理解原理并直接嵌入视觉任务模型。

注意力机制+4
121840—
xmu-xiaoma666/External-Attention-pytorch · 9.38
X
x-transformers
lucidrains·Python

一个简洁但完整的全注意力 Transformer 实现,集成了多篇论文中值得尝试的实验性特性,方便研究者快速试验各种注意力变体。

Transformer+4
59640—
lucidrains/x-transformers · 9.33
H
Halfrost-Field
halfrost·Go

冰霜之地的技术博客合集,深入拆解 Go、HTTP/2、密码学、算法与机器学习等源码,适合想系统啃底层实现和系统设计的工程师。

源码解析+4
132550—
halfrost/Halfrost-Field · 9.29
P
porcupine
Picovoice·Python

端侧唤醒词检测引擎,用深度学习在本地识别自定义唤醒词,无需联网即可实现语音激活。

唤醒词检测+4
50220—
Picovoice/porcupine · 9.27
D
DocsGPT
arc53·Python

面向企业私有化部署的 AI 平台,可搭建智能体、助手和文档检索问答,支持多模型接入、深度研究与 API 连接。

智能体构建+4
183730—
arc53/DocsGPT · 9.11
D
doctr
mindee·Python

基于深度学习的一站式 OCR 库,把文字检测、文字识别和版面分析串成流水线,支持 PyTorch 训练与微调,适合快速搭建文档解析应用。

OCR+4
64300—
mindee/doctr · 9.08
E
einops
arogozhnikov·Python

用一套可读的 Einstein 记号统一 PyTorch、JAX、TensorFlow 等框架的张量操作,让 reshape、转置、rearrange 这类代码更清晰、更不容易出错。

张量操作+4
96330—
arogozhnikov/einops · 8.96

发布说明里提到「深度推理」

来自 4 个版本
  • yeahhe365/Gemini-Nexusv5.5.02026-10-14

    …gon ( 95a4c0abcba24364 ,RPC 模式 mode: 8 ),用于处理复杂任务与深度推理,支持快速(低点)与深度(高点)思考等级切换。 - Web 逆向渠道别名补齐 :新增 gemini-4-argon 、 gemini-4 、 4-argon 等别名映射;将最新 Flash-Lite 探测 hash 8c46e95b

  • modelscope/evalscopev1.11.12026-08-31

    …增 $OneMillion-Bench、PRBench、HMMT-Nov-2025 等 Agent、深度推理与数学评测基准。 功能增强 - API 契约:Web API 响应契约改由 Pydantic 模型自动生成,提升前后端类型一致性。 - 缓存与数据集:隔离数据集缓存键,增强视频解码与 limit 参数校验。 - 模型服务:支持识别

  • OpenSPG/KAGv0.72025-04-17

    …垂直领域应用的推理严谨性。 其次,我们对产品体验进行了全面优化:在推理阶段新增" 简易模式 "和" 深度推理 "双模式,并支持流式推理输出,显著缩短了用户等待时间;特别值得关注的是,为更好的促进KAG的规模化业务应用,同时也回应社区最为关切的知识构建成本高的问题,本次发布提供了" 轻量级构建 "模式,如图1中KAG-V0.7LC列所示,我

  • OpenSPG/openspgv0.72025-04-17

    …垂直领域应用的推理严谨性。 其次,我们对产品体验进行了全面优化:在推理阶段新增" 简易模式 "和" 深度推理 "双模式,并支持流式推理输出,显著缩短了用户等待时间;特别值得关注的是,为更好的促进KAG的规模化业务应用,同时也回应社区最为关切的知识构建成本高的问题,本次发布提供了" 轻量级构建 "模式,如图1中KAG-V0.7LC列所示,我