一站式大模型训练框架,支持 600+ 纯文本大模型和 300+ 多模态大模型的 CPT、SFT、DPO、GRPO 等训练,可用 LoRA 等 PEFT 方式或全参数微调。
基于 llama.cpp 和 GGUF 的 VLA 模型统一推理运行时,用 C++ 实现,支持量化部署,让机器人视觉-语言-动作模型能在本地高效跑起来。
面向视觉语言模型的 INT4 量化部署方案,通过量化感知蒸馏把大模型压缩到 4bit,在保持多模态能力的同时大幅降低显存占用。
NVIDIA Alpamayo 的开发者配方库,提供自动驾驶与机器人模型的微调、强化学习后训练、量化和部署现成方案,省去从零搭建流程的麻烦。
基于 C++ 和 TensorRT 的 RF-DETR 推理引擎,支持目标检测与实例分割,可在 NVIDIA GPU 和 Jetson 上以 FP32/FP16/INT8 量化部署。
汇总可私有化部署的中文大语言模型资源清单,覆盖小规模底座模型、垂直领域微调、数据集与教程,方便低成本选型落地。