面向大语言模型的强化学习训练框架，支持分布式训练与智能体工作流，让开发者能低成本训练和调优推理模型。

本地跑和训练大模型、扩散模型的图形界面，支持 GGUF、MLX 及 Qwen、DeepSeek、Gemma、FLUX 等主流模型，省去命令行配置的麻烦。

一套统一接口搞定 100+ 大语言模型和多模态模型的微调，支持 LoRA 等高效训练方式，省去为每个模型单独写训练脚本的麻烦。

跨平台高性能推理与训练加速引擎，可直接加载 ONNX 模型，兼容 PyTorch、TensorFlow 等框架导出，解决模型在不同硬件上高效部署的问题。

统一评测语言模型少样本能力的框架，支持多种任务和模型，方便横向对比不同模型的性能表现。

从公开研究文献出发，用第一性原理复现 Claude Mythos 架构的理论实现，供研究者拆解其注意力机制与模型设计思路。

自托管的多模型 AI 图像与视频生成工作台，聚合 Flux、Midjourney、Kling、Sora 等 600+ 模型，无内容过滤，可替代闭源视频平台。

开源的多模态视觉指令微调模型，让 LLaMA 类大模型能看图对话，效果对标 GPT-4V，适合做图文问答和视觉助手。

把深度学习模型编译到 CPU、GPU 及各类加速器上运行的开源编译器框架，通过统一中间表示和自动调优提升推理性能。

用 GRPO 强化学习给多步 Agent 做在线训练，让 Qwen、Llama 等模型在真实任务里边干边学，提升实际表现。

NVIDIA 官方的高性能深度学习推理 SDK，能把训练好的模型在 NVIDIA GPU 上做极致加速和部署，适合追求低延迟高吞吐的生产推理场景。

面向全模态模型的高效推理框架，支持图像、视频、音频生成与多模态模型服务，基于 PyTorch 提供统一的推理与部署能力。

PyTorch 官方的端侧推理框架，把训练好的模型导出并部署到手机、嵌入式和边缘设备上运行，覆盖 CPU、GPU 等多种后端。

把数据库和 AI 模型直接打通的全栈框架，让你在 MongoDB 等数据源上直接做推理、训练和部署自定义 AI 应用与智能体。

在 Mac 上基于 Apple Silicon 用 MLX 跑视觉语言模型的推理与微调工具包，支持 LLaVA、Pixtral、Florence2 等多种 VLM，本地即可完成多模态任务。

把 TensorFlow、Keras、TensorFlow.js 和 TFLite 模型一键转成 ONNX 格式，方便跨框架部署和推理。

一个轻量级 C++ AI 工具包，集成 100+ 模型，支持 MNN、ONNX Runtime 和 TensorRT 推理，覆盖目标检测、分割、Stable Diffusion、人脸融合等任务。

汇集机器学习系统与大模型推理、训练、服务方向的顶会论文和工业实践，配视频教程，帮算法工程师系统补齐 AI Infra 知识。

把 Spark、scikit-learn 等训练好的机器学习流水线导出成统一格式，脱离原框架直接部署到生产环境做推理。

Skywork-R1V 是昆仑万维开源的多模态视觉语言推理模型系列，基于强化学习训练，擅长图像理解与复杂推理任务。

把 Keras、scikit-learn、LightGBM 等训练好的模型转成 ONNX 格式，方便跨框架部署和推理。

把 GPT-SoVITS 语音克隆模型转成 ONNX 并做推理的引擎，方便在没有 PyTorch 环境里跑少样本音色克隆和语音合成。

把 YOLO 系列模型接入 NVIDIA DeepStream SDK 的推理实现，支持 Darknet、PyTorch、Paddle 等多种权重格式，方便在 Jetson 和 GPU 上做实时目标检测部署。

Intel 开源的模型量化工具，用训练后量化的低成本达到量化感知训练级别的精度，支持 int4、GGUF、MXFP4 等格式，可直接对接 vLLM、SGLang 推理。

阿里开源的高性能大模型推理引擎，支持 GPT、Llama 等多种模型，面向各类应用提供低延迟、高吞吐的在线推理服务。

面向开发者的模型优化框架，能对扩散模型、LLM、语音识别等模型做压缩加速，以极低改造成本换来更快、更省资源的推理。

分布式模型服务框架，能把多台机器组成自建 AI 推理集群，用来跑 Llama、DeepSeek 等大模型。

一套 TensorRT C++ API 实战教程，演示如何用 C++ 加载 ONNX 模型并构建高性能推理引擎，适合想在工程里落地 GPU 推理的开发者。

高通官方维护的预优化模型库，模型已针对延迟和内存调优，可直接部署到骁龙等高通设备上推理。

面向大模型量化的压缩工具包，支持 NVIDIA、AMD、Intel、华为昇腾等多硬件加速，可无缝接入 HF、vLLM 和 SGLang 推理。

把 PyTorch 模型转成 iOS/macOS 可直接用的 .mlpackage，每个模型都配转换脚本和 SwiftUI 示例，省去自己折腾 Core ML 的麻烦。

本地或自托管运行 29 个开放决策模型家族的推理服务，兼容 Jev API，现有 TypeSafe SDK 改个 base URL 就能接入。

Fun-ASR 是支持 31 种语言和中文方言的语音识别模型，提供 Nano 轻量版，并支持 Transformers、FunASR、vLLM、llama.cpp 多种部署方式，可端侧运行。

带空间标注的大规模视频数据集，为视频生成、3D/4D 重建和空间推理模型提供训练与评测数据。

高通 AI Hub 应用集，提供针对高通设备优化过延迟和内存的机器学习模型，可直接部署到骁龙等终端上跑推理。

面向 NVIDIA GPU 的深度学习推理调优工具包，帮助把训练好的模型调优并部署到 TensorRT、ONNX Runtime 等推理后端上跑得更快。

纯浏览器端运行的极简 AI 对话界面，可对接 llama.cpp、Ollama、vLLM 和 OpenAI 兼容接口，省去本地部署 WebUI 的麻烦。

把家里已有的多台电脑组网成 AI 内网，统一跑大模型推理和微调训练，兼容 OpenAI 接口，适合本地部署和 homelab 场景。

整理扩散模型高效化方向的论文与代码合集，覆盖图像、视频、世界模型和语言生成，聚焦加速、量化、压缩、缓存与蒸馏。