模型工具链
232 个仓库模型的转换、量化、编译与硬件适配。
微软 Windows ML 的官方示例与工具集，帮助开发者在 Windows 上加载 ONNX 模型并调用系统内置的机器学习推理能力。
把量化神经网络编译成 FPGA 上的数据流推理加速器，省去手写 RTL 的麻烦，适合做低延迟边缘部署。
PyTorch 量化后端，接入 Optimum 生态，支持多种量化方案，帮你在推理和训练中压缩模型、降低显存占用。
一份 10 周、每天 30 分钟的 LLM 推理服务与优化学习路线，覆盖 vLLM、SGLang、量化、投机解码和基准测试，帮工程师系统入门推理加速。
基于 YOLO 系列模型和 TensorRT 加速的 FPS 游戏自动瞄准工具，用 GPU 实时检测画面中的目标并驱动准星移动。
跨平台多媒体处理框架，支持 GPU 加速和异构调度，可把转码、AI 推理、算法模块和直播流处理串成一条流水线。
把 ONNX 模型一键转成 TFLite、TensorFlow、PyTorch 原生代码或 TorchScript，省去跨框架部署时手写转换脚本的麻烦。
为 Jetson Nano 准备的 Ubuntu 20.04 系统镜像，预装 CUDA、OpenCV、PyTorch、TensorFlow、TensorRT 等深度学习环境，省去在边缘设备上手动配置的麻烦。
一种简单又强大的大模型量化技术，通过可学习权重裁剪和等价变换，在保持精度的同时把 LLM 压到低比特，方便部署推理。
HQQ 是一种无需校准数据的大模型量化方法，官方实现支持几行代码把 LLM 压到低比特，省显存还能保持精度。
本地优先的开源视频编辑器，创作者和 AI 智能体共用同一条真实时间线协作剪辑，支持自动字幕、AI 配音与音乐生成。
在笔记本 CPU 上本地跑二分类、多选和带概率打分的决策模型，是 Jev 和 Microsoft-Decision-1 的开源替代，支持 GGUF 量化推理。
把 RGBA 像素转换成高质量调色板图像的量化库，是 pngquant 等 PNG 压缩工具的核心，能在保持画质的同时大幅减小图片体积。
用 Swift 写的轻量本地大模型推理库，能在 macOS、iOS、watchOS、tvOS、visionOS 上直接跑 GGUF 模型，代码简单易读，方便苹果生态应用集成。
一个高效易用的深度学习模型压缩框架，支持剪枝、训练后量化和量化感知训练，能把 PyTorch 模型转换部署到端侧。
自动驾驶学习笔记，系统梳理感知、BEV、Transformer、规划控制等模块知识点，并整合行业优秀方案，帮读者快速建立自动驾驶技术体系。
Kandinsky 5.0 是一套文生视频与文生图的扩散模型家族，支持视频和图像生成，并带有蒸馏加速能力。
对 ONNX 模型做图级优化的 Python 工具，通过算子融合、常量折叠等变换精简计算图，让推理更快、模型更小。
用纯 Java 实现的 Llama 3 及后续版本推理引擎，无需原生依赖即可在 JVM 上跑大模型，适合 Java 项目直接集成。
C++ 编写的机器学习框架，同时支持深度学习与传统算法，可加载 ONNX 模型，适合在 C++ 项目中集成训练与推理能力。
在 mpv 播放器里用轻量超分模型实时把动漫画面放大到 4K，基于 Real-ESRGAN 和 TensorRT 加速，看番时直接获得高清画质。
轻量级上下文感知语音合成模型，仅2.19亿活跃参数，支持声音克隆和流式输出，纯C实现可在CPU上离线运行，附带完整的实时语音助手方案。
把 TensorFlow、PyTorch、Caffe、ONNX 等模型一键转成飞桨格式，省去跨框架迁移时重写网络和权重的麻烦。
把 ONNX 模型直接转成 PyTorch 网络，方便在 PyTorch 里继续微调或调试，省去手工重搭结构的麻烦。