模型工具链
共 203 个仓库 · 一年内有推送
自动驾驶学习笔记，系统梳理感知、BEV、Transformer、规划控制等模块知识点，并整合行业优秀方案，帮读者快速建立自动驾驶技术体系。
Kandinsky 5.0 是一套文生视频与文生图的扩散模型家族，支持视频和图像生成，并带有蒸馏加速能力。
对 ONNX 模型做图级优化的 Python 工具，通过算子融合、常量折叠等变换精简计算图，让推理更快、模型更小。
用纯 Java 实现的 Llama 3 及后续版本推理引擎，无需原生依赖即可在 JVM 上跑大模型，适合 Java 项目直接集成。
C++ 编写的机器学习框架，同时支持深度学习与传统算法，可加载 ONNX 模型，适合在 C++ 项目中集成训练与推理能力。
在 mpv 播放器里用轻量超分模型实时把动漫画面放大到 4K，基于 Real-ESRGAN 和 TensorRT 加速，看番时直接获得高清画质。
轻量级上下文感知语音合成模型，仅2.19亿活跃参数，支持声音克隆和流式输出，纯C实现可在CPU上离线运行，附带完整的实时语音助手方案。
把微软 ONNX Runtime 封装成 Go 库，让 Go 程序能直接加载和推理 ONNX 模型，省去跨语言调用的麻烦。
用 C++ 把 YOLOv8 模型部署到 TensorRT 上做高性能推理，适合需要低延迟目标检测的工程落地场景。
基于 YOLO12 的 AI 瞄准辅助，支持所有 FPS/TPS 游戏，通过 TensorRT、CUDA 或 DirectML 在 GPU 上推理，并配合 Arduino、KMBox 等硬件实现鼠标控制。
Hailo 官方预训练模型库，提供面向 Hailo-8 边缘 AI 加速器的模型、量化工具和完整评估环境，方便直接部署到端侧设备。
纯 C++ 实时单目多人 3D 全身重建，输出带手部 70 关节骨架的 BVH 动作捕捉数据，ONNX + ggml 推理无需 Python。
基于 MLIR 的开源编译器工具链，提供贴近硬件的 Python API，用来给 AMD Ryzen AI NPU（AI Engine）编写和编译算子程序。
Xilinx 官方运行时库，让 AIE 和 FPGA 加速卡在 Linux 上跑起来，提供驱动、用户态 API 和编译工具链，方便把 AI 负载卸载到 Versal、Ryzen AI 等硬件。
纯 C 写的本地大模型推理引擎，靠 MoE 稀疏激活和 NVMe 流式加载，让 32GB 笔记本跑 80B 模型，速度全面超过 llama.cpp。
把 XGBoost、LightGBM、scikit-learn、CatBoost 和 ONNX 模型一键编译成原生 C99 推理代码，省去 Python 运行时开销，推理速度最高提升 336 倍。
用纯 Go 直接调用 llama.cpp 做本地推理，支持 CUDA、Metal、ROCm 硬件加速，覆盖 Linux、macOS、Windows 和 WebAssembly，方便在 Go 应用里嵌入大模型。
离线文档全文检索工具，支持按正文而非文件名搜索 HWP、PDF、Office 等韩文文档，覆盖 Windows 和 macOS。
面向 LLM 和扩散 Transformer 的无损压缩方案，在 GPU 推理时压缩模型权重、降低显存占用，同时保持输出完全一致。
把 Depth Anything V3 单目深度估计模型封装成 ROS2 节点，用 TensorRT 加速推理，从相机图像直接输出米制深度图和点云。
SINQ 是一种即插即用的 LLM 量化方法，能把任意大模型压小并尽量保住精度，适合显存吃紧时部署 DeepSeek、Qwen 等模型。
把 scikit-learn 训练好的模型和 Pipeline 转成 ONNX 格式，方便跨框架部署和推理加速。
基于节点的创意编程工具，用可视化连线搭建 3D 图形、图像处理和计算机视觉流程，灵感来自 Quartz Composer，适合实时渲染与多媒体实验。
把 Qwen3-VL、Florence-2、InternVL 等视觉语言模型接进 ComfyUI 的节点包，顺带支持开放词表检测、SAM 分割、视频时序推理和 GGUF 量化加载。