OSS Radar
首页
AI 分类
推理与服务5
大模型推理服务 · 向量化 / 重排服务 · 网关与路由
训练与微调6
训练框架 · 参数高效微调 · 后训练 / RLHF
数据工程4
数据集托管 · 数据清洗与处理 · 合成数据
检索与 RAG9
向量数据库 · RAG 框架 · 检索增强引擎
Agent 与编排6
Agent 框架 · 编码 Agent · 电脑 / 浏览器 Agent
评估 · 实验 · MLOps8
模型评测 · Agent 评测 · 实验管理
多模态生成5
图像生成 · 视频生成 · 视觉语言模型
视觉与 3D5
检测 / 分割 · 3D 重建 · 3D 生成
模型工具链8
量化 · 剪枝与蒸馏 · 格式转换
科研与论文实现3
论文复现 · 时序预测 · 科学计算 / 生物医药
开发工具
开发与框架5构建与交付4底层与逆向3
系统工具
系统与文件7图像与影音工具5实用小工具4
效率工具
记录与整理3输入与阅读4
媒体与内容
播放与媒体库4内容处理3
网络工具
访问与代理3连接与传输4
游戏相关
开发与运行2游玩相关2
安全与隐私
攻防与审计3加密与隐私1
硬件与机器人
嵌入式与物联网5机器人与具身智能3
数据与金融
数据库与存储4金融与量化1
探索排行榜开发语言标签
/
周报
本周新增、涨得最快、发了什么版本
对比项目
两个项目并排看 star、维护状态与硬件
数据体检
收录量、完整度缺口、沉睡项目
提交仓库
推荐项目,附上你的使用经验
反馈与纠错
分类错了、介绍不准、链接失效
关于本站
数据来源与分类原则
登录
OSS Radar

按算法工程工作流分类的开源工具库。数据来自 GitHub 公开 API,收录 6,740 个仓库、129 个细分分类。 带 ✦ 的条目有人工撰写的专家点评。

数据最近同步于 2026/11/11 14:07:13 · 本项目仅做聚合与索引,软件版权归原作者所有

浏览

  • 全部仓库
  • AI 分类
  • 排行榜
  • 开发语言
  • 标签与关键词
  • 搜索

关于

  • 关于本站
  • 数据体检
  • 提交仓库
  • 反馈与纠错
  • 偏好设置
  • 我的收藏
  • 我的点评
© 2026 OSS Radar数据每小时级同步 · 内容由算法与人工共同维护
⌘K
「模型加速」找到 10 个结果 · 11ms命中词:模型加速只看有点评
F
FastVideo
hao-ai-lab·Python

统一视频生成推理与后训练框架,支持扩散模型加速、蒸馏和微调,帮你在有限算力下更快跑出视频。

视频生成+4
48070—
hao-ai-lab/FastVideo · 9
E
EAGLE
SafeAILab·Python

EAGLE 系列投机解码算法的官方实现,通过草稿模型加速大语言模型推理,在几乎不损失生成质量的前提下显著提升吞吐。

投机解码+4
25710—
SafeAILab/EAGLE · 8.73
A
AngelSlim
Tencent·Python

腾讯开源的模型压缩工具包,支持量化、投机解码和扩散模型加速,帮你在部署大模型时降低显存占用、提升推理效率。

模型压缩+4
17880—
Tencent/AngelSlim · 8.53
F
FastGen
NVlabs·Python

NVIDIA 开源的扩散模型加速生成方案,用一致性模型、分布匹配蒸馏和流映射等蒸馏技术,把扩散模型的多步采样压缩到极少步数,显著提升出图速度。

扩散模型+4
11170—
NVlabs/FastGen · 8.33
Y
yolort
zhiqwang·Python

把 YOLOv5 模型部署到 TensorRT、LibTorch、ONNX Runtime、TVM、NCNN 等推理后端的运行时工具链,省去自己写适配代码。

YOLOv5+4
7300—
zhiqwang/yolort · 8.29
A
Autoregressive-Models-in-Vision-Survey
ChaofanTao

系统梳理视觉自回归模型的研究综述(TMLR 2025),覆盖图像生成、多模态、点云、运动预测等方向,帮研究者快速理清技术脉络与加速方法。

视觉自回归+4
8050—
ChaofanTao/Autoregressive-Models-in-Vision-Survey · 8.01
V
VisionZip
JIA-Lab-research·Python

VisionZip 是 CVPR 2025 提出的视觉语言模型加速方案,通过压缩视觉 token 减少冗余计算,在保持多模态任务精度的同时显著提升推理效率。

视觉语言模型+4
4620—
JIA-Lab-research/VisionZip · 7.97
A
Awesome-Generation-Acceleration
xuyang-liu16

汇总扩散模型等生成模型加速推理的资源清单,涵盖图像与视频生成的高效采样、模型压缩等方向,方便快速查找相关论文和代码。

生成加速+4
4030—
xuyang-liu16/Awesome-Generation-Acceleration · 2.97
M
Model-Compression-Papers
chester256

汇总深度神经网络压缩与加速方向的论文清单,方便按主题查找剪枝、量化等模型轻量化研究。

模型压缩+4
4020—
chester256/Model-Compression-Papers · 2.8
A
Awesome-Token-level-Model-Compression
xuyang-liu16

汇总 token 级模型压缩相关论文与资源,涵盖 token 剪枝、合并等加速方法,方便快速查找视觉与深度学习模型压缩方向的研究资料。

模型压缩+4
2050—
xuyang-liu16/Awesome-Token-level-Model-Compression · 2.64

发布说明里提到「模型加速」

来自 1 个版本
  • ymcui/Chinese-LLaMA-Alpaca-2v3.22023-10-26

    …nese-Alpaca-2-1.3B)。 - 投机采样是一种解码加速策略,借助能力稍弱但速度较快的小模型加速大模型的推理。其理论细节可查看[相关论文](https://arxiv.org/pdf/2302.01318.pdf)。本次更新实现了投机采样解码策略,可使用小模型加速大模型的解码,并在 gradio demo.py 和 infer