模型工具链
共 232 个仓库
把深度学习模型编译到 CPU、GPU 及各类加速器上运行的开源编译器框架，通过统一中间表示和自动调优提升推理性能。
Lightning-Fast, On-Device, Multilingual TTS — running natively via ONNX.
NVIDIA 官方的高性能深度学习推理 SDK，能把训练好的模型在 NVIDIA GPU 上做极致加速和部署，适合追求低延迟高吞吐的生产推理场景。
基于飞桨的 NLP 与大模型开发库，提供丰富模型库，覆盖 BERT、ERNIE、LLaMA 等，支持分布式训练、压缩和文档智能等任务。
把训练好的深度学习模型优化并部署到 Intel CPU、GPU 等硬件上做推理，支持视觉、LLM 和生成式模型，省去自己折腾底层加速的麻烦。
预训练的企业级语音活动检测（VAD）模型，能精准切分音频中的说话段与静音段，支持 ONNX 和 PyTorch 部署，适合语音识别、语音指令等场景的前置处理。
在 Android 手机上本地跑 NLLB 模型的实时翻译 App，支持蓝牙耳机对话翻译，全程离线不联网也能用。
面向 MoE 模型的高效专家并行通信库，专门优化 GPU 间 all-to-all 分发与合并，降低大规模稀疏模型训练和推理的通信开销。
提供大量预训练、前沿的 ONNX 格式模型，可直接下载用于推理部署或迁移学习，省去自己转换和训练的成本。
让大模型在普通显卡上跑起来的 PyTorch 量化库，支持 8-bit 和 4-bit 权重压缩，也是 QLoRA 微调背后的核心依赖。
用 TensorRT 网络定义 API 手写实现 YOLO、ResNet、Swin Transformer 等主流深度学习模型，并附 C++ 推理代码，方便直接部署到 NVIDIA GPU。
用 Rust 写的 GPU 加速终端模拟器，基于 Metal/Vulkan 渲染，桌面和浏览器里都能跑，适合追求流畅终端体验的开发者。
在 Apple Silicon 上通过 MLX 框架运行大语言模型，支持加载、推理和微调，让 Mac 本地跑 LLM 更省心。
用 Triton 重写 LLM 训练中的 RMSNorm、RoPE、交叉熵等关键算子，减少显存占用并提升微调吞吐，兼容 Llama、Mistral、Gemma、Phi 等主流模型。
用 C++ 写的图像处理与数据并行计算 DSL，把算法和调度分开描述，自动生成适配 CPU、GPU 等硬件的高性能代码。
一条命令就能搭好包含 Caffe、Keras、MXNet 等主流框架的深度学习 Docker 环境，省去逐个配置依赖的麻烦。
纯 Rust 实现的 WebGPU 推理引擎，原生支持 GGUF 模型，兼容 OpenAI API，无需 Python 和 llama.cpp，单个二进制文件即可在任意 GPU 上跑本地大模型。
统一管理 GPU 集群，调度 vLLM、SGLang 等推理引擎做高性能模型服务，还能按需开出可 SSH 登录的 GPU 实例。
在不同深度学习框架之间转换模型并可视化网络结构，支持 Caffe、Keras、MXNet、TensorFlow、PyTorch、ONNX、CoreML 等格式互转。
用有损量化把 PNG 压到原体积的几分之一，肉眼几乎看不出差别，适合给网页和 App 里的图片瘦身。
基于 Spark 的分布式机器学习库，把 LightGBM、深度学习、认知服务等算法封装成易用 API，让大数据场景下的训练和推理可以直接在集群上跑。
NVIDIA 官方多 GPU 集合通信库，提供 all-reduce、broadcast 等优化通信原语，是分布式深度学习训练中跨卡数据同步的底层依赖。
一个能自主感知上下文的桌面 AI 伴侣，通过实时屏幕视觉、窗口追踪和 ONNX 语音合成，配合带表情的悬浮界面与你互动。
PyTorch 官方的端侧推理框架，把训练好的模型导出并部署到手机、嵌入式和边缘设备上运行，覆盖 CPU、GPU 等多种后端。