统一视频生成推理与后训练框架,支持扩散模型加速、蒸馏和微调,帮你在有限算力下更快跑出视频。
EAGLE 系列投机解码算法的官方实现,通过草稿模型加速大语言模型推理,在几乎不损失生成质量的前提下显著提升吞吐。
腾讯开源的模型压缩工具包,支持量化、投机解码和扩散模型加速,帮你在部署大模型时降低显存占用、提升推理效率。
NVIDIA 开源的扩散模型加速生成方案,用一致性模型、分布匹配蒸馏和流映射等蒸馏技术,把扩散模型的多步采样压缩到极少步数,显著提升出图速度。
把 YOLOv5 模型部署到 TensorRT、LibTorch、ONNX Runtime、TVM、NCNN 等推理后端的运行时工具链,省去自己写适配代码。
系统梳理视觉自回归模型的研究综述(TMLR 2025),覆盖图像生成、多模态、点云、运动预测等方向,帮研究者快速理清技术脉络与加速方法。
VisionZip 是 CVPR 2025 提出的视觉语言模型加速方案,通过压缩视觉 token 减少冗余计算,在保持多模态任务精度的同时显著提升推理效率。
汇总扩散模型等生成模型加速推理的资源清单,涵盖图像与视频生成的高效采样、模型压缩等方向,方便快速查找相关论文和代码。
汇总深度神经网络压缩与加速方向的论文清单,方便按主题查找剪枝、量化等模型轻量化研究。
汇总 token 级模型压缩相关论文与资源,涵盖 token 剪枝、合并等加速方法,方便快速查找视觉与深度学习模型压缩方向的研究资料。