OSS Radar
首页
AI 分类
推理与服务5
大模型推理服务 · 向量化 / 重排服务 · 网关与路由
训练与微调6
训练框架 · 参数高效微调 · 后训练 / RLHF
数据工程4
数据集托管 · 数据清洗与处理 · 合成数据
检索与 RAG9
向量数据库 · RAG 框架 · 检索增强引擎
Agent 与编排6
Agent 框架 · 编码 Agent · 电脑 / 浏览器 Agent
评估 · 实验 · MLOps8
模型评测 · Agent 评测 · 实验管理
多模态生成5
图像生成 · 视频生成 · 视觉语言模型
视觉与 3D5
检测 / 分割 · 3D 重建 · 3D 生成
模型工具链8
量化 · 剪枝与蒸馏 · 格式转换
科研与论文实现3
论文复现 · 时序预测 · 科学计算 / 生物医药
开发工具
开发与框架5构建与交付4底层与逆向3
系统工具
系统与文件7图像与影音工具5实用小工具4
效率工具
记录与整理3输入与阅读4
媒体与内容
播放与媒体库4内容处理3
网络工具
访问与代理3连接与传输4
游戏相关
开发与运行2游玩相关2
安全与隐私
攻防与审计3加密与隐私1
硬件与机器人
嵌入式与物联网5机器人与具身智能3
数据与金融
数据库与存储4金融与量化1
探索排行榜开发语言标签
/
周报
本周新增、涨得最快、发了什么版本
对比项目
两个项目并排看 star、维护状态与硬件
数据体检
收录量、完整度缺口、沉睡项目
提交仓库
推荐项目,附上你的使用经验
反馈与纠错
分类错了、介绍不准、链接失效
关于本站
数据来源与分类原则
登录
OSS Radar

按算法工程工作流分类的开源工具库。数据来自 GitHub 公开 API,收录 6,740 个仓库、129 个细分分类。 带 ✦ 的条目有人工撰写的专家点评。

数据最近同步于 2026/11/11 14:07:13 · 本项目仅做聚合与索引,软件版权归原作者所有

浏览

  • 全部仓库
  • AI 分类
  • 排行榜
  • 开发语言
  • 标签与关键词
  • 搜索

关于

  • 关于本站
  • 数据体检
  • 提交仓库
  • 反馈与纠错
  • 偏好设置
  • 我的收藏
  • 我的点评
© 2026 OSS Radar数据每小时级同步 · 内容由算法与人工共同维护
⌘K
「小模型推理」找到 21 个结果 · 10ms命中词:小模型推理inference只看有点评
N
next-ai-draw-io
DayuanJiang·TypeScript

用聊天方式让 AI 直接绘制和编辑 draw.io 图表,提供网页版、桌面版和 MCP 服务器,可接入 Claude Code、Cursor 等编码工具。

图表生成+4
368830—
DayuanJiang/next-ai-draw-io · 12.01
T
transformers.js
huggingface·JavaScript

在浏览器里直接跑 Hugging Face 的 Transformer 模型,不用后端服务器,前端就能做文本、视觉等机器学习推理。

浏览器推理+4
164130—
huggingface/transformers.js · 11.92
N
nano-vllm
GeeeekExplorer·Python

用 PyTorch 从零实现的轻量级 vLLM,代码精简易读,适合学习大模型推理引擎的调度、KV Cache 和 PagedAttention 等核心机制。

推理引擎+4
163890—
GeeeekExplorer/nano-vllm · 11.74
E
eliza
elizaOS·TypeScript

开源智能体操作系统,用 TypeScript 搭建可自主运行的多平台 AI 代理,支持插件扩展、RAG 检索和 Discord 等聊天渠道接入。

智能体框架+4
198480—
elizaOS/eliza · 11.45
T
tvm
apache·Python

把深度学习模型编译到 CPU、GPU 及各类加速器上运行的开源编译器框架,通过统一中间表示和自动调优提升推理性能。

深度学习编译器+4
138980—
apache/tvm · 11.31
E
ERNIE
PaddlePaddle·Python

ERNIE 4.5 系列大模型与配套的工业级开发工具包 ERNIEKit,基于 PaddlePaddle,支持大语言模型和多模态模型的训练、微调与推理部署。

大模型+4
77400—
PaddlePaddle/ERNIE · 11.31
D
DeepSpeed
deepspeedai·Python

基于 PyTorch 的深度学习优化库,通过 ZeRO、模型并行和混合专家等技术,让千亿到万亿参数模型的分布式训练与推理更省显存、更高效。

分布式训练+4
433210—
deepspeedai/DeepSpeed · 11.14
K
kimi-k3-in-c
FareedKhan-dev·C

用纯 C99 从零实现的 Kimi K3 推理引擎,单 CPU、8.24 GB 内存即可跑 2.78 万亿参数模型,不依赖 BLAS、框架或 GPU。

推理引擎+4
117860—
FareedKhan-dev/kimi-k3-in-c · 11.14
W
wav2letter
flashlight·C++

Facebook AI 开源的端到端语音识别训练工具包,用 C++ 实现,可基于 wav2letter 架构训练声学模型,省去传统 ASR 繁琐的特征工程流程。

语音识别+4
64450—
flashlight/wav2letter · 11.09
J
jax
jax-ml·Python

把 NumPy 风格的 Python 代码自动微分、向量化并 JIT 编译到 GPU/TPU,写起来像 NumPy,跑起来像高性能计算。

自动微分+4
366100—
jax-ml/jax · 11.06
H
HunyuanVideo
Tencent-Hunyuan·Python

腾讯混元开源的大规模视频生成框架,基于扩散 Transformer 把文本提示直接生成连贯视频,适合做文生视频研究和应用落地。

视频生成+4
127570—
Tencent-Hunyuan/HunyuanVideo · 10.87
V
vosk-api
alphacep·Jupyter Notebook

离线语音识别 API,支持 Android、iOS、树莓派和服务器,提供 Python、Java、C#、Node 多语言绑定,适合注重隐私、不依赖云端的语音转文字场景。

离线语音识别+4
152440—
alphacep/vosk-api · 10.84
K
kotaemon
Cinnamon·Python

开源的 RAG 文档问答工具,上传文档后即可用大模型对话检索,快速搭建私有知识库问答。

RAG+4
259030—
Cinnamon/kotaemon · 10.82
O
oh-my-pi
can1357·TypeScript

把 IDE 直接接进终端的编码智能体,支持 Claude、OpenAI 等多模型和 MCP,让命令行里也能完成读写代码、调用工具的完整开发流程。

编码智能体+4
386850—
can1357/oh-my-pi · 10.73
D
DB-GPT
eosphoros-ai·Python

基于大模型和 Agent 的数据库智能助手,用自然语言直接查询和分析数据库,支持 RAG 与私有化部署,方便搭建 AI+Data 应用。

数据库智能助手+4
202880—
eosphoros-ai/DB-GPT · 10.68
M
minimind-v
jingyaogong·Python

用两小时从零训练一个 65M 参数的多模态视觉语言模型,代码和流程完整,适合低成本复现 VLM 训练与对话实验。

视觉语言模型+4
88290—
jingyaogong/minimind-v · 10.28
P
porcupine
Picovoice·Python

端侧唤醒词检测引擎,用深度学习在本地识别自定义唤醒词,无需联网即可实现语音激活。

唤醒词检测+4
50220—
Picovoice/porcupine · 10.28
M
MobileAgent
X-PLUG·Python

基于多模态大模型的 GUI 智能体家族,能看懂手机和电脑界面并自动点击操作,帮你完成跨 App 的自动化任务。

GUI 智能体+4
93780—
X-PLUG/MobileAgent · 10.13
I
InternVL
OpenGVLab·Python

开源多模态大模型家族,视觉语言能力接近 GPT-4o,支持图像分类、图文检索、语义分割和视频理解等任务。

多模态大模型+4
101680—
OpenGVLab/InternVL · 10
D
DeepAudit
lintsinghua·Python

基于大模型的自动化代码安全审计平台,多智能体协作挖掘漏洞,并在沙箱中自动验证 PoC,支持 Ollama 私有部署和一键生成报告。

代码审计+4
73000—
lintsinghua/DeepAudit · 9.82
A
Awesome-Chinese-LLM
AiHubCN

汇总可私有化部署的中文大语言模型资源清单,覆盖小规模底座模型、垂直领域微调、数据集与教程,方便低成本选型落地。

中文大模型+4
227810—
AiHubCN/Awesome-Chinese-LLM · 3.87