模型工具链
共 110 个仓库 · Python
一站式视觉模型训练工具，支持 YOLO、ViT、RT-DETR、DINOv3 等模型的预训练、微调与知识蒸馏，省去自己搭训练流程的麻烦。
一套 0.8B 到 27B 的开源决策模型，一次前向就能为每个选项给出校准概率，只在不确定时才输出简短思考；配套 vLLM、llama.cpp 和 MLX 推理引擎。
Intel 开源的模型量化工具，用训练后量化的低成本达到量化感知训练级别的精度，支持 int4、GGUF、MXFP4 等格式，可直接对接 vLLM、SGLang 推理。
BiSeNet 语义分割网络的 PyTorch 实现，支持 Cityscapes、ADE20K、COCO-Stuff 数据集，并提供 ncnn、OpenVINO、TensorRT、Triton 等推理部署方案。
飞桨生态下的模型压缩与架构搜索库，提供剪枝、量化、蒸馏和 NAS 等能力，帮你在部署前把深度模型压小提速。
在树莓派等边缘设备上跑深度学习推理的网关，把模型部署到 IoT 终端并通过 MQTT 上报结果，省去云端往返。
基于 PyTorch 的神经网络量化库，支持训练后量化和量化感知训练，方便把模型部署到 FPGA 等硬件上做加速。
面向 Keras 和 TensorFlow 的模型压缩工具包，通过量化和剪枝把训练好的模型压小、跑得更快，方便部署到移动端和边缘设备。
自托管 Chatterbox 语音合成模型的服务端，带 Web 界面和 OpenAI 兼容 API，支持预置音色、声音克隆和长篇有声书文本处理，可在 NVIDIA、AMD 和 CPU 上加速运行。
OuteTTS 模型的推理接口，支持 GGUF 和 Transformers 后端，方便本地跑文本转语音。
把 ONNX 模型转成 TensorFlow 格式，方便在 TensorFlow 生态里直接加载和运行其他框架训练好的模型。
面向 OpenVINO 推理的神经网络压缩框架，提供量化、剪枝和混合精度训练，把模型压小提速后再部署。
把 Keras、scikit-learn、LightGBM 等训练好的模型转成 ONNX 格式，方便跨框架部署和推理。
把 YOLO 全系列（v5 到 v12、YOLOX）模型转成 TensorRT 引擎做加速推理，内置 NMS 插件，省去自己写后处理的麻烦。
把对话语言模型压到 2-bit 量化，小到能在 8 位 Z80 处理器上跑，用 Python 训练后导出成 CP/M 的 .COM 程序，让老电脑也能聊天。
把量化神经网络编译成 FPGA 上的数据流推理加速器，省去手写 RTL 的麻烦，适合做低延迟边缘部署。
PyTorch 量化后端，接入 Optimum 生态，支持多种量化方案，帮你在推理和训练中压缩模型、降低显存占用。
基于 YOLO 系列模型和 TensorRT 加速的 FPS 游戏自动瞄准工具，用 GPU 实时检测画面中的目标并驱动准星移动。
把 ONNX 模型一键转成 TFLite、TensorFlow、PyTorch 原生代码或 TorchScript，省去跨框架部署时手写转换脚本的麻烦。
一种简单又强大的大模型量化技术，通过可学习权重裁剪和等价变换，在保持精度的同时把 LLM 压到低比特，方便部署推理。
HQQ 是一种无需校准数据的大模型量化方法，官方实现支持几行代码把 LLM 压到低比特，省显存还能保持精度。
一个高效易用的深度学习模型压缩框架，支持剪枝、训练后量化和量化感知训练，能把 PyTorch 模型转换部署到端侧。
Kandinsky 5.0 是一套文生视频与文生图的扩散模型家族，支持视频和图像生成，并带有蒸馏加速能力。
对 ONNX 模型做图级优化的 Python 工具，通过算子融合、常量折叠等变换精简计算图，让推理更快、模型更小。