用强化学习(GRPO)训练视觉语言模型做视觉理解,把 DeepSeek-R1 那套推理强化思路搬到多模态场景,适合研究 VLM 推理能力。
在 Mac 上基于 Apple Silicon 用 MLX 跑视觉语言模型的推理与微调工具包,支持 LLaVA、Pixtral、Florence2 等多种 VLM,本地即可完成多模态任务。
汇总视觉语言模型在视觉任务上的论文与资源清单,方便研究者快速跟进多模态预训练、迁移学习和知识蒸馏等方向的最新进展。
把视觉语言模型变成通用多模态嵌入模型,配套 MMEB 系列基准,用于图文视频检索和 RAG 场景的表示学习评测。
提供各行业专用的 Pydantic schema 集合,让视觉语言模型按统一结构输出 JSON,省去手写解析和字段对齐的麻烦。
把 Qwen3-VL、Florence-2、InternVL 等视觉语言模型接进 ComfyUI 的节点包,顺带支持开放词表检测、SAM 分割、视频时序推理和 GGUF 量化加载。
把 UI 设计稿直接转成高质量 React 代码的多模态系统,靠视觉语言建模和自动数据合成打通设计与前端开发。
把视觉语言模型的高层推理和细粒度感知接起来,让 VLM 能直接做开放词表目标检测,输出精确的框和掩码。
VLM Run API 的示例与指南合集,用 Jupyter Notebook 演示如何调用视觉语言模型完成 OCR、文档解析和 ETL 等任务,方便快速上手多模态推理。
把视觉语言模型和强化学习整合到同一个框架里,用于自动驾驶策略训练,并在 CARLA 仿真中验证安全性。
用视觉语言模型自动标注目标检测数据并一键训练 YOLO 的端到端平台,支持图片和视频关键帧提取,省去手工框标注的重复劳动。
SparseVLM 是 ICML'25 与 TPAMI'26 论文的官方实现,通过稀疏化视觉 token 来降低视觉语言模型的计算开销,提升多模态推理效率。
高性能大模型与多模态模型推理服务框架,通过优化注意力机制和调度策略提升吞吐与延迟表现,支持 Llama、DeepSeek、MoE 等主流模型部署。
面向视觉语言模型的对齐与安全研究代码库,提供对抗攻击方法,用于评估多模态基础模型的鲁棒性和可信度。
统一加载和运行文本、视觉、音频、多模态的预训练模型,覆盖推理与训练,省去为每个模型重写代码的麻烦。
字节开源的多模态 AI Agent 桌面栈,把前沿模型和 Agent 基础设施连起来,让 Agent 能像人一样操作 GUI、浏览器和电脑完成任务。
一套统一接口搞定 100+ 大语言模型和多模态模型的微调,支持 LoRA 等高效训练方式,省去为每个模型单独写训练脚本的麻烦。
字节跳动开源的文档图像解析模型,用异构锚点提示把 PDF 和图片里的版面、文字、表格一次性解析成结构化内容,适合喂给 RAG 或做文档分析。
一份持续更新的异常检测资源大全,汇总书籍、论文、视频和工具箱,覆盖传统方法与最新的 LLM、VLM 工作,适合快速入门和跟进前沿。
一站式搞定 Qwen、Gemma 等开源大模型和多模态模型的微调(SFT/RL)、评测与部署,零代码也能上手。
把网页直接当像素图像来检索的 RAG 引擎,跳过 HTML 解析,靠视觉语言模型做原生搜索,适合构建多模态 Agent 的长期记忆。
在骁龙设备的 NPU、GPU 和 CPU 上本地跑大模型和多模态模型,几行代码就能接入,省去自己适配硬件的麻烦。
用两小时从零训练一个 65M 参数的多模态视觉语言模型,代码和流程完整,适合低成本复现 VLM 训练与对话实验。
ERNIE 4.5 系列大模型与配套的工业级开发工具包 ERNIEKit,基于 PaddlePaddle,支持大语言模型和多模态模型的训练、微调与推理部署。
一套能在手机和边缘设备上本地跑大模型、扩散模型和多模态推理的生产级 SDK,覆盖 Android、iOS、Flutter,省去自己搭推理链路的麻烦。
开源文档解析模型,用强化自迭代(RSI)循环做后训练,在准确率和速度上达到 SOTA,适合给 LLM 和 Agent 做 OCR 与文档理解。
轻量可定制的大模型评测框架,支持 LLM、VLM、AIGC 和 RAG 的效果评估与性能压测,帮团队快速跑通基准测试。
一套可直接在 Colab 跑的计算机视觉教程合集,覆盖 ResNet 到 RF-DETR、YOLO11、SAM 3、Qwen3-VL 等模型,帮你快速上手训练、微调与推理。
统一评测文本、图像、视频和音频任务的多模态大模型工具箱,一套流程跑完各类基准,省去为每个模态单独搭评测脚本的麻烦。
低代码 MCP 框架,用可视化方式快速搭建复杂 RAG 流水线,省去大量胶水代码,适合快速验证检索增强生成方案。
用 100 多张原创原理图把 LLM 和强化学习的关键算法讲清楚,适合想系统理解大模型训练与 RL 机制的人对照学习。
Skywork-R1V 是昆仑万维开源的多模态视觉语言推理模型系列,基于强化学习训练,擅长图像理解与复杂推理任务。
基于 Ray 的高性能 RLHF 训练框架,支持 PPO、DAPO、REINFORCE++ 等算法与 vLLM 推理加速,可扩展地完成大模型和视觉语言模型的对齐后训练。
开源的 AI 摄像头与 NVR 监控平台,用本地 VLM 和 YOLO 做视频分析,并通过 Telegram、Discord、Slack 推送智能安防告警。
把位图转成 SVG 的视觉语言基础模型,将矢量化当作代码生成任务,输出高精度、可直接使用的 SVG 代码。
逐镜头逆向分析任意视频,判断画面是实拍、AI 生成还是代码渲染,并给出复刻方案,适合短视频拆解与 AIGC 溯源。
把随手写的提示词改写成更清晰、结构化的版本,让文生图和图像编辑模型生成效果更稳定。
面向视频分析与端侧 VLM 的 C++ 边缘推理引擎,支持算能、瑞芯微 RKNN 和 x86 平台,自带可视化编排、实时 OSD、事件与可复现基准。
GLM-4.6V/4.5V/4.1V-Thinking 系列视觉语言模型,通过可扩展强化学习提升多模态推理能力,支持图像理解、视频理解和图文问答。
用 Rust 写的多后端 OCR/视觉语言模型引擎,支持 DeepSeek-OCR、PaddleOCR-VL 等模型和 DSQ 量化,无需 Python 即可本地跑起兼容 OpenAI 的服务和命令行。
…l -O https://raw.githubusercontent.com/Somnusochi/VLM-AutoYOLO/master/docker-compose.yml docker compose up -d Access: - Frontend: http://localhost - API Docs: http://loca
…l -O https://raw.githubusercontent.com/Somnusochi/VLM-AutoYOLO/master/docker-compose.yml docker compose up -d Access: - Frontend: http://localhost - API Docs: http://loca
…l -O https://raw.githubusercontent.com/Somnusochi/VLM-AutoYOLO/master/docker-compose.yml docker compose up -d Access: - Frontend: http://localhost - API Docs: http://loca
…l -O https://raw.githubusercontent.com/Somnusochi/VLM-AutoYOLO/master/docker-compose.yml docker compose up -d Access: - Frontend: http://localhost - API Docs: http://loca
…l -O https://raw.githubusercontent.com/Somnusochi/VLM-AutoYOLO/master/docker-compose.yml docker compose up -d Access: - Frontend: http://localhost - API Docs: http://loca