用强化学习(GRPO)训练视觉语言模型做视觉理解,把 DeepSeek-R1 那套推理强化思路搬到多模态场景,适合研究 VLM 推理能力。
汇总视觉语言模型在视觉任务上的论文与资源清单,方便研究者快速跟进多模态预训练、迁移学习和知识蒸馏等方向的最新进展。
统一加载和运行文本、视觉、音频、多模态的预训练模型,覆盖推理与训练,省去为每个模型重写代码的麻烦。
一套统一接口搞定 100+ 大语言模型和多模态模型的微调,支持 LoRA 等高效训练方式,省去为每个模型单独写训练脚本的麻烦。
用视觉语言模型自动标注目标检测数据并一键训练 YOLO 的端到端平台,支持图片和视频关键帧提取,省去手工框标注的重复劳动。
把视觉语言模型和强化学习整合到同一个框架里,用于自动驾驶策略训练,并在 CARLA 仿真中验证安全性。
用两小时从零训练一个 65M 参数的多模态视觉语言模型,代码和流程完整,适合低成本复现 VLM 训练与对话实验。
一份持续更新的异常检测资源大全,汇总书籍、论文、视频和工具箱,覆盖传统方法与最新的 LLM、VLM 工作,适合快速入门和跟进前沿。
基于 Ray 的高性能 RLHF 训练框架,支持 PPO、DAPO、REINFORCE++ 等算法与 vLLM 推理加速,可扩展地完成大模型和视觉语言模型的对齐后训练。
用 100 多张原创原理图把 LLM 和强化学习的关键算法讲清楚,适合想系统理解大模型训练与 RL 机制的人对照学习。
一套可直接在 Colab 跑的计算机视觉教程合集,覆盖 ResNet 到 RF-DETR、YOLO11、SAM 3、Qwen3-VL 等模型,帮你快速上手训练、微调与推理。
ERNIE 4.5 系列大模型与配套的工业级开发工具包 ERNIEKit,基于 PaddlePaddle,支持大语言模型和多模态模型的训练、微调与推理部署。
开源的多模态视觉指令微调模型,让 LLaMA 类大模型能看图对话,效果对标 GPT-4V,适合做图文问答和视觉助手。
阿里云通义团队开源的多模态大模型系列,能同时理解图像和文本,用于视觉问答、图文推理等视觉语言任务。
开源多模态大模型家族,视觉语言能力接近 GPT-4o,支持图像分类、图文检索、语义分割和视频理解等任务。
汇集卫星与航拍影像深度学习的技术清单,涵盖数据集、模型与工具,帮遥感从业者快速找到可用的方法和资源。
开源文档解析模型,用强化自迭代(RSI)循环做后训练,在准确率和速度上达到 SOTA,适合给 LLM 和 Agent 做 OCR 与文档理解。
Intel 开源的模型量化工具,用训练后量化的低成本达到量化感知训练级别的精度,支持 int4、GGUF、MXFP4 等格式,可直接对接 vLLM、SGLang 推理。
Skywork-R1V 是昆仑万维开源的多模态视觉语言推理模型系列,基于强化学习训练,擅长图像理解与复杂推理任务。
从零构建的免费开源、无审查图像描述视觉语言模型,专为扩散模型训练生成高质量图片说明。
开源的 AI 摄像头与 NVR 监控平台,用本地 VLM 和 YOLO 做视频分析,并通过 Telegram、Discord、Slack 推送智能安防告警。
Eagle 是一系列前沿视觉语言模型,主打以数据为中心的训练策略,能看图理解并回答多模态问题,适合做图文问答和视觉理解研究。
基于 PyTorch 原生分布式训练的 LLM/VLM 训练库,开箱即用兼容 Hugging Face,方便微调 Llama、Gemma、GLM 等主流大模型。
面向 NVIDIA GPU 和昆仑 XPU 的大模型训练框架,覆盖 LLM、VLM、扩散模型和具身模型,支持 LoRA、预训练、SFT 与中期训练,开箱即用适配 DeepSeek、GLM、Kimi 等主流模型。
从零训练原生视觉语言模型的开源系列,去掉独立视觉编码器,让多模态理解与生成在统一架构里完成。
无需 OCR 的本地化文档解析工具,能把扫描件、表格等非结构化文档直接抽取成结构化数据和 Markdown,还附带 OCR 基准测试。
让 HuggingFace 上的 Transformers 和 Diffusers 模型无缝跑在昇腾 MindSpore 上,省去手动迁移适配的麻烦,并支持加速。
在多种虚拟游戏世界中继续预训练视觉语言模型,打造能跨游戏泛化的具身智能体,并公开模型权重。
面向多模态大模型训练的数据集构建与评估平台,支持数据集的智能生成、管理与质量评估,帮助团队高效准备 VLM 训练数据。
轻量高效的全模态强化微调框架,支持 GRPO、DAPO 等算法,用奖励模型驱动 LLM 和多模态 VLM 训练。
面向具身智能的一站式 VLA 工程平台,打通数据、模型训练到真机部署全流程,省去自己拼装工具链的麻烦。
面向多轮视觉语言模型智能体的世界模型强化学习框架,让 VLM Agent 在交互中通过 RL 训练提升多轮决策能力。
在浏览器里跑安卓模拟器,为移动 GUI 智能体提供可验证、高并发的评测与在线强化学习训练环境。
一个能自我进化的照片编辑智能体,通过编辑器和评估器协同优化,让多模态大模型学会像修图师一样自动调色和修图。
面向流式视频场景的空间智能框架,用测试时训练让多模态大模型持续理解三维空间关系,解决长视频中空间推理能力退化的问题。
面向基础模型训练的多模态数据流水线,把数据清洗、筛选和质量评估串成可扩展流程,解决大规模图文数据难治理的问题。
收录 200+ 视觉语言模型(VLM/MLLM)架构的图文目录,整理论文、结构图、训练配方、数据集和发布时间线,方便快速查阅和对比多模态模型设计。
整理大模型训练数据全流程的精选资源库,覆盖数据获取、去重、过滤、配比、合成与溯源,配套「LLM × DATA」综述论文。