OSS Radar
首页
AI 分类
推理与服务5
大模型推理服务 · 向量化 / 重排服务 · 网关与路由
训练与微调6
训练框架 · 参数高效微调 · 后训练 / RLHF
数据工程4
数据集托管 · 数据清洗与处理 · 合成数据
检索与 RAG9
向量数据库 · RAG 框架 · 检索增强引擎
Agent 与编排6
Agent 框架 · 编码 Agent · 电脑 / 浏览器 Agent
评估 · 实验 · MLOps8
模型评测 · Agent 评测 · 实验管理
多模态生成5
图像生成 · 视频生成 · 视觉语言模型
视觉与 3D5
检测 / 分割 · 3D 重建 · 3D 生成
模型工具链8
量化 · 剪枝与蒸馏 · 格式转换
科研与论文实现3
论文复现 · 时序预测 · 科学计算 / 生物医药
开发工具
开发与框架5构建与交付4底层与逆向3
系统工具
系统与文件7图像与影音工具5实用小工具4
效率工具
记录与整理3输入与阅读4
媒体与内容
播放与媒体库4内容处理3
网络工具
访问与代理3连接与传输4
游戏相关
开发与运行2游玩相关2
安全与隐私
攻防与审计3加密与隐私1
硬件与机器人
嵌入式与物联网5机器人与具身智能3
数据与金融
数据库与存储4金融与量化1
探索排行榜开发语言标签
/
周报
本周新增、涨得最快、发了什么版本
对比项目
两个项目并排看 star、维护状态与硬件
数据体检
收录量、完整度缺口、沉睡项目
提交仓库
推荐项目,附上你的使用经验
反馈与纠错
分类错了、介绍不准、链接失效
关于本站
数据来源与分类原则
登录
OSS Radar

按算法工程工作流分类的开源工具库。数据来自 GitHub 公开 API,收录 6,740 个仓库、129 个细分分类。 带 ✦ 的条目有人工撰写的专家点评。

数据最近同步于 2026/11/11 14:07:13 · 本项目仅做聚合与索引,软件版权归原作者所有

浏览

  • 全部仓库
  • AI 分类
  • 排行榜
  • 开发语言
  • 标签与关键词
  • 搜索

关于

  • 关于本站
  • 数据体检
  • 提交仓库
  • 反馈与纠错
  • 偏好设置
  • 我的收藏
  • 我的点评
© 2026 OSS Radar数据每小时级同步 · 内容由算法与人工共同维护
⌘K
「模型优化」找到 12 个结果 · 11ms命中词:模型优化只看有点评
O
openvino
openvinotoolkit·C++

把训练好的深度学习模型优化并部署到 Intel CPU、GPU 等硬件上做推理,支持视觉、LLM 和生成式模型,省去自己折腾底层加速的麻烦。

推理引擎+4
111460—
openvinotoolkit/openvino · 11.44
P
pytorch-lightning
Lightning-AI·Python

统一的 PyTorch 训练框架,让同一份代码在单卡到上万张 GPU 上都能跑,免去改代码就能做预训练和微调。

深度学习训练+4
314480—
Lightning-AI/pytorch-lightning · 10.47
S
shell_gpt
TheR1D·Python

在终端里直接调用 GPT、Llama、Ollama 等大模型,用自然语言生成并执行 shell 命令,省去查手册和拼参数的时间。

命令行工具+4
123090—
TheR1D/shell_gpt · 10.29
P
pruna
PrunaAI·Python

面向开发者的模型优化框架,能对扩散模型、LLM、语音识别等模型做压缩加速,以极低改造成本换来更快、更省资源的推理。

模型优化+4
13850—
PrunaAI/pruna · 9.09
O
optimum
huggingface·Python

为 Transformers、Diffusers 等模型提供硬件加速与量化、ONNX 导出等优化工具,让推理和训练在各类硬件上跑得更快。

模型优化+4
35190—
huggingface/optimum · 8.95
O
OnnxSlim
inisis·Python

一款 ONNX 模型优化工具,通过精简计算图和冗余节点来减小模型体积、提升推理速度,适合部署前做模型瘦身。

ONNX+4
5250—
inisis/OnnxSlim · 8.82
O
optimizer
onnx·Python

对 ONNX 模型做图级优化的 Python 工具,通过算子融合、常量折叠等变换精简计算图,让推理更快、模型更小。

ONNX+4
8410—
onnx/optimizer · 8.49
A
ai-hub-models
qualcomm·Python

高通官方维护的预优化模型库,模型已针对延迟和内存调优,可直接部署到骁龙等高通设备上推理。

端侧推理+4
12600—
qualcomm/ai-hub-models · 8.24
T
TheWhisper
TheStageAI·Python

面向流式和端侧场景优化的 Whisper 语音识别模型,支持 Apple Silicon、CoreML、MLX 和 NVIDIA GPU,可做实时转写与翻译。

语音识别+4
9030—
TheStageAI/TheWhisper · 8.23
O
onnx-tool
ThanatosShinji·Python

解析、编辑、优化和性能分析 ONNX 模型的 Python 工具,方便查看模型结构、修改计算图并定位推理瓶颈。

ONNX+4
4940—
ThanatosShinji/onnx-tool · 8.19
O
optimum-intel
huggingface·Jupyter Notebook

把 Hugging Face 的 Transformers、Diffusers 等模型接到 Intel 的 OpenVINO 等优化工具上,加速 CPU/GPU 推理,覆盖 LLM、语音识别、语音合成和多模态模型。

推理加速+4
6270—
huggingface/optimum-intel · 8.15
A
ai-hub-apps
qualcomm·Python

高通 AI Hub 应用集,提供针对高通设备优化过延迟和内存的机器学习模型,可直接部署到骁龙等终端上跑推理。

端侧推理+4
4790—
qualcomm/ai-hub-apps · 7.77

发布说明里提到「模型优化」

来自 3 个版本
  • xushengfeng/eSearch15.7.12026-11-04

    …环境](https://github.com/xushengfeng/myde) 和 [lime 大模型优化的拼音输入法](https://github.com/xushengfeng/lime) 也欢迎大家支持

  • tencentmusic/cube-studiov2026.01.012026-02-06

    …务模板增加 二、大模型与推理服务优化 - 大模型对话优化 - 大模型微调可选值优化 - 大模型可选值模型优化 - 推理服务优化 - 推理服务模型地址支持 {{creator}} - 去除 VLLM 的 AIHub - 升级 LLaMAFactory 镜像版本及相关任务模板 - 升级 ML-Server 镜像版本 - 优化 ML-Serve

  • data-infra/cube-studiov2026.01.012026-02-03

    …务模板增加 二、大模型与推理服务优化 - 大模型对话优化 - 大模型微调可选值优化 - 大模型可选值模型优化 - 推理服务优化 - 推理服务模型地址支持 {{creator}} - 去除 VLLM 的 AIHub - 升级 LLaMAFactory 镜像版本及相关任务模板 - 升级 ML-Server 镜像版本 - 优化 ML-Serve