OSS Radar
首页
AI 分类
推理与服务5
大模型推理服务 · 向量化 / 重排服务 · 网关与路由
训练与微调6
训练框架 · 参数高效微调 · 后训练 / RLHF
数据工程4
数据集托管 · 数据清洗与处理 · 合成数据
检索与 RAG9
向量数据库 · RAG 框架 · 检索增强引擎
Agent 与编排6
Agent 框架 · 编码 Agent · 电脑 / 浏览器 Agent
评估 · 实验 · MLOps8
模型评测 · Agent 评测 · 实验管理
多模态生成5
图像生成 · 视频生成 · 视觉语言模型
视觉与 3D5
检测 / 分割 · 3D 重建 · 3D 生成
模型工具链8
量化 · 剪枝与蒸馏 · 格式转换
科研与论文实现3
论文复现 · 时序预测 · 科学计算 / 生物医药
开发工具
开发与框架5构建与交付4底层与逆向3
系统工具
系统与文件7图像与影音工具5实用小工具4
效率工具
记录与整理3输入与阅读4
媒体与内容
播放与媒体库4内容处理3
网络工具
访问与代理3连接与传输4
游戏相关
开发与运行2游玩相关2
安全与隐私
攻防与审计3加密与隐私1
硬件与机器人
嵌入式与物联网5机器人与具身智能3
数据与金融
数据库与存储4金融与量化1
探索排行榜开发语言标签
/
周报
本周新增、涨得最快、发了什么版本
对比项目
两个项目并排看 star、维护状态与硬件
数据体检
收录量、完整度缺口、沉睡项目
提交仓库
推荐项目,附上你的使用经验
反馈与纠错
分类错了、介绍不准、链接失效
关于本站
数据来源与分类原则
登录
OSS Radar

按算法工程工作流分类的开源工具库。数据来自 GitHub 公开 API,收录 6,740 个仓库、129 个细分分类。 带 ✦ 的条目有人工撰写的专家点评。

数据最近同步于 2026/11/11 14:07:13 · 本项目仅做聚合与索引,软件版权归原作者所有

浏览

  • 全部仓库
  • AI 分类
  • 排行榜
  • 开发语言
  • 标签与关键词
  • 搜索

关于

  • 关于本站
  • 数据体检
  • 提交仓库
  • 反馈与纠错
  • 偏好设置
  • 我的收藏
  • 我的点评
© 2026 OSS Radar数据每小时级同步 · 内容由算法与人工共同维护
⌘K
「推理模型」找到 15 个结果 · 12ms命中词:推理模型inference只看有点评
R
rllm
rllm-org·Python

面向大语言模型的强化学习训练框架,支持分布式训练与智能体工作流,让开发者能低成本训练和调优推理模型。

强化学习+4
59160—
rllm-org/rllm · 10.39
U
unsloth
unslothai·Python

本地跑和训练大模型、扩散模型的图形界面,支持 GGUF、MLX 及 Qwen、DeepSeek、Gemma、FLUX 等主流模型,省去命令行配置的麻烦。

本地推理+4
793260—
unslothai/unsloth · 9.87
L
LlamaFactory
hiyouga·Python

一套统一接口搞定 100+ 大语言模型和多模态模型的微调,支持 LoRA 等高效训练方式,省去为每个模型单独写训练脚本的麻烦。

微调框架+4
760010—
hiyouga/LlamaFactory · 9.8
O
onnxruntime
microsoft·C++

跨平台高性能推理与训练加速引擎,可直接加载 ONNX 模型,兼容 PyTorch、TensorFlow 等框架导出,解决模型在不同硬件上高效部署的问题。

推理引擎+4
222860—
microsoft/onnxruntime · 9.63
L
lm-evaluation-harness
EleutherAI·Python

统一评测语言模型少样本能力的框架,支持多种任务和模型,方便横向对比不同模型的性能表现。

模型评测+4
144560—
EleutherAI/lm-evaluation-harness · 9.54
O
OpenMythos
kyegomez·Python

从公开研究文献出发,用第一性原理复现 Claude Mythos 架构的理论实现,供研究者拆解其注意力机制与模型设计思路。

模型架构复现+3
149210—
kyegomez/OpenMythos · 9.46
O
Open-Generative-AI
Anil-matcha·JavaScript

自托管的多模型 AI 图像与视频生成工作台,聚合 Flux、Midjourney、Kling、Sora 等 600+ 模型,无内容过滤,可替代闭源视频平台。

图像生成+4
340820—
Anil-matcha/Open-Generative-AI · 9.29
L
LLaVA
haotian-liu·Python

开源的多模态视觉指令微调模型,让 LLaMA 类大模型能看图对话,效果对标 GPT-4V,适合做图文问答和视觉助手。

视觉指令微调+4
250750—
haotian-liu/LLaVA · 9.25
T
tvm
apache·Python

把深度学习模型编译到 CPU、GPU 及各类加速器上运行的开源编译器框架,通过统一中间表示和自动调优提升推理性能。

深度学习编译器+4
138980—
apache/tvm · 9.2
A
ART
OpenPipe·Python

用 GRPO 强化学习给多步 Agent 做在线训练,让 Qwen、Llama 等模型在真实任务里边干边学,提升实际表现。

强化学习+4
108530—
OpenPipe/ART · 9.18
T
TensorRT
NVIDIA·C++

NVIDIA 官方的高性能深度学习推理 SDK,能把训练好的模型在 NVIDIA GPU 上做极致加速和部署,适合追求低延迟高吞吐的生产推理场景。

推理引擎+4
134490—
NVIDIA/TensorRT · 9.11
V
vllm-omni
vllm-project·Python

面向全模态模型的高效推理框架,支持图像、视频、音频生成与多模态模型服务,基于 PyTorch 提供统一的推理与部署能力。

全模态推理+4
76990—
vllm-project/vllm-omni · 9.06
E
executorch
pytorch·Python

PyTorch 官方的端侧推理框架,把训练好的模型导出并部署到手机、嵌入式和边缘设备上运行,覆盖 CPU、GPU 等多种后端。

端侧推理+4
51700—
pytorch/executorch · 9.05
S
superduper
superduper-io·Python

把数据库和 AI 模型直接打通的全栈框架,让你在 MongoDB 等数据源上直接做推理、训练和部署自定义 AI 应用与智能体。

AI应用框架+4
53290—
superduper-io/superduper · 8.87
M
mlx-vlm
Neywa-Labs·Python

在 Mac 上基于 Apple Silicon 用 MLX 跑视觉语言模型的推理与微调工具包,支持 LLaVA、Pixtral、Florence2 等多种 VLM,本地即可完成多模态任务。

视觉语言模型+4
58350—
Neywa-Labs/mlx-vlm · 8.76

发布说明里提到「推理模型」

来自 6 个版本
  • NanmiCoder/cc-hahav0.7.72026-11-05

    …( 1802);生成会话标题、语音纠错等短文本请求遇到限流(429)时,不再关掉「禁用思考」重发导致推理模型耗尽输出预算而没有结果,仅在供应商拒绝该参数(400 / 422)时才去掉( 1773);默认主题的阅读对比度提高( 1786);设置里难懂的开关旁新增「?」说明卡片( 1748)。 其他 - Windows 安装包默认未签名 (

  • l06066hb/MarKingv1.6.22026-10-28

    zh-CN AI 能力全面升级:支持 2026 年新模型并自动识别其能力,推理模型的「思考过程」现在可以实时展开观看;新增 Groq、MiniMax、OpenCode Go 三家供应商与自定义请求头;行内 AI 预览体验大幅打磨,另修复 Mermaid 导出与 Linux / macOS 启动问题。 ✨ 新增功能 - 新模型即插即用 —

  • agentpit-io/hunter-communityv2.2.02026-10-14

    …ni-4-argon 。 谷歌 2026-10-13 正式发布 gemini-4-argon (旗舰推理模型,100 万上下文)。 本版把开源版 代码里写死的默认模型名 从 gemini-3.5-flash 换成它。 ⚠️ 谁受影响 :只在 没配环境变量、也没走首启向导 的部署上才看得出来 —— 这两条路都会把模型名写进 .env / 数

  • PaddlePaddle/PaddleDetectionv2.9.02026-03-19

    …addlePaddle/PaddleDetection/pull/9329)) - 模型导出格式 :推理模型默认保存为 JSON 格式([ 9352](https://github.com/PaddlePaddle/PaddleDetection/pull/9352)) --- 🖥️ 硬件平台适配 - CUDA 13 :适配 CUDA

  • jeecgboot/JeecgBootv3.9.12026-01-28

    … 升级日志 本次升级对 AI 平台进行了全面增强,升级 LangChain4j 至 1.9.1,引入推理模型、多会话与流式调用能力;千问模型支持参数调整与联网搜索,新增 AI 绘画、文生图、图生图和海报生成等多模态能力;AI 应用升级为智能体,支持记忆、变量、插件、流程与 MCP;流程能力新增变量、循环、SQL、定时、知识库写入等节点;A

  • PaddlePaddle/PaddleSlimv2.3.02022-07-11

    …发布自动化压缩工具ACT(Auto Compression Toolkit) - 解耦训练代码,基于推理模型和无监督数据,性能等效人工压缩 - 支持PaddlePaddle、Pytorch、TensorFlow产出的推理模型 - 发布图像语义分割、图像目标检测、图像分类和自然语言预训练模型的自动压缩示例 - 发布Pytorch BERT、