OSS Radar
首页
AI 分类
推理与服务5
大模型推理服务 · 向量化 / 重排服务 · 网关与路由
训练与微调6
训练框架 · 参数高效微调 · 后训练 / RLHF
数据工程4
数据集托管 · 数据清洗与处理 · 合成数据
检索与 RAG9
向量数据库 · RAG 框架 · 检索增强引擎
Agent 与编排6
Agent 框架 · 编码 Agent · 电脑 / 浏览器 Agent
评估 · 实验 · MLOps8
模型评测 · Agent 评测 · 实验管理
多模态生成5
图像生成 · 视频生成 · 视觉语言模型
视觉与 3D5
检测 / 分割 · 3D 重建 · 3D 生成
模型工具链8
量化 · 剪枝与蒸馏 · 格式转换
科研与论文实现3
论文复现 · 时序预测 · 科学计算 / 生物医药
开发工具
开发与框架5构建与交付4底层与逆向3
系统工具
系统与文件7图像与影音工具5实用小工具4
效率工具
记录与整理3输入与阅读4
媒体与内容
播放与媒体库4内容处理3
网络工具
访问与代理3连接与传输4
游戏相关
开发与运行2游玩相关2
安全与隐私
攻防与审计3加密与隐私1
硬件与机器人
嵌入式与物联网5机器人与具身智能3
数据与金融
数据库与存储4金融与量化1
探索排行榜开发语言标签
/
周报
本周新增、涨得最快、发了什么版本
对比项目
两个项目并排看 star、维护状态与硬件
数据体检
收录量、完整度缺口、沉睡项目
提交仓库
推荐项目,附上你的使用经验
反馈与纠错
分类错了、介绍不准、链接失效
关于本站
数据来源与分类原则
登录
OSS Radar

按算法工程工作流分类的开源工具库。数据来自 GitHub 公开 API,收录 6,740 个仓库、129 个细分分类。 带 ✦ 的条目有人工撰写的专家点评。

数据最近同步于 2026/11/11 14:07:13 · 本项目仅做聚合与索引,软件版权归原作者所有

浏览

  • 全部仓库
  • AI 分类
  • 排行榜
  • 开发语言
  • 标签与关键词
  • 搜索

关于

  • 关于本站
  • 数据体检
  • 提交仓库
  • 反馈与纠错
  • 偏好设置
  • 我的收藏
  • 我的点评
© 2026 OSS Radar数据每小时级同步 · 内容由算法与人工共同维护
⌘K
「多模态大模型」找到 53 个结果 · 12ms命中词:多模态大模型llmmultimodal只看有点评
S
self-llm
datawhalechina·Jupyter Notebook

面向中文用户的 Linux 环境大模型实战教程,手把手教你在本地微调(全参数/LoRA)和部署国内外开源 LLM 与多模态模型。

大模型微调+4
327520—
datawhalechina/self-llm · 17.45
M
mllm
UbiquitousLearning·C++

在手机等移动设备上高效运行多模态大模型的 C++ 推理引擎,让视觉语言模型能在端侧低资源环境下完成推理。

多模态大模型+4
16350—
UbiquitousLearning/mllm · 13.56
S
ShapeLLM-Omni
JAMESYJL·Python

原生多模态大模型,把文本和图像统一到 3D 生成与理解任务中,支持文生 3D、图生 3D、3D 描述和编辑。

多模态大模型+4
5810—
JAMESYJL/ShapeLLM-Omni · 12.81
C
cambrian-s
cambrian-mllm·Python

面向视频场景的空间超级感知多模态大模型,专注提升视觉语言模型对视频中空间关系的理解与推理能力。

多模态大模型+4
5730—
cambrian-mllm/cambrian-s · 12.78
S
SLAM-LLM
X-LANCE·Python

把语音、音频、音乐接进大语言模型做多模态处理的开源框架,支持参数高效微调,方便快速搭建语音理解与生成任务。

语音处理+4
10700—
X-LANCE/SLAM-LLM · 11.98
Q
Qwen3-VL
QwenLM·Jupyter Notebook

阿里云通义团队开源的多模态大模型系列,能同时理解图像和文本,用于视觉问答、图文推理等视觉语言任务。

多模态大模型+4
201970—
QwenLM/Qwen3-VL · 11.02
A
Agent-S
simular-ai·Python

开源计算机使用智能体,能像人一样操作图形界面完成桌面任务,靠多模态大模型、规划与记忆实现自动化操作。

计算机使用智能体+4
129420—
simular-ai/Agent-S · 10.48
M
MobileAgent
X-PLUG·Python

基于多模态大模型的 GUI 智能体家族,能看懂手机和电脑界面并自动点击操作,帮你完成跨 App 的自动化任务。

GUI 智能体+4
93780—
X-PLUG/MobileAgent · 10.42
I
InternVL
OpenGVLab·Python

开源多模态大模型家族,视觉语言能力接近 GPT-4o,支持图像分类、图文检索、语义分割和视频理解等任务。

多模态大模型+4
101680—
OpenGVLab/InternVL · 10.33
S
self-operating-computer
OthersideAI·Python

让多模态大模型直接看屏幕、动鼠标键盘来操作电脑的框架,把自然语言指令变成实际的桌面自动化操作。

多模态模型+4
103050—
OthersideAI/self-operating-computer · 9.24
A
all-in-rag
datawhalechina·Python

面向大模型应用开发的 RAG 全栈实战教程,覆盖文本向量化、检索、重排与多模态等环节,手把手带你搭建检索增强生成系统。

检索增强生成+4
130590—
datawhalechina/all-in-rag · 9.17
L
LLaVA
haotian-liu·Python

开源的多模态视觉指令微调模型,让 LLaMA 类大模型能看图对话,效果对标 GPT-4V,适合做图文问答和视觉助手。

视觉指令微调+4
250750—
haotian-liu/LLaVA · 9.03
D
data-juicer
datajuicer·Python

面向大模型训练的数据处理流水线,把原始多模态数据清洗、过滤、去重并加工成高质量指令微调语料。

数据处理+4
72410—
datajuicer/data-juicer · 8.81
V
VideoPipe
sherlockchou86·C++

跨平台视频结构化分析框架,基于 C++ 和 GStreamer 串联 CV 模型与多模态大模型,把视频流拆解成人脸、车牌、行为等结构化信息。

视频结构化+4
29910—
sherlockchou86/VideoPipe · 8.52
R
Rex-Omni
IDEA-Research·Jupyter Notebook

基于多模态大模型的目标检测方案,把检测任务转成下一个点预测,支持开放场景下检测任意物体。

开放集检测+3
16350—
IDEA-Research/Rex-Omni · 8.52
M
ms-swift
modelscope·Python

一站式大模型训练框架,支持 600+ 纯文本大模型和 300+ 多模态大模型的 CPT、SFT、DPO、GRPO 等训练,可用 LoRA 等 PEFT 方式或全参数微调。

训练框架+4
160900—
modelscope/ms-swift · 8.34
S
SALMONN
bytedance

字节跳动开源的多模态大模型系列,能同时理解语音、音频、音乐和视觉信息,用于语音识别与视听内容理解等研究任务。

多模态大模型+4
15710—
bytedance/SALMONN · 8.3
I
InternNav
InternRobotics·Jupyter Notebook

面向机器人导航的开源平台,用多模态大模型和视觉语言动作模型构建通用导航基础模型,解决跨场景视觉导航与空间智能问题。

机器人导航+4
11680—
InternRobotics/InternNav · 8.21
G
groundingLMM
mbzuai-oryx·Python

GLaMM 是首个能把自然语言回答和物体分割掩码无缝结合的多模态大模型,让模型在对话中直接指出并分割出提到的物体。

多模态大模型+4
9690—
mbzuai-oryx/groundingLMM · 8.14
V
VideoRAG
HKUDS·Python

面向超长视频的检索增强生成框架,让大模型能直接和你上传的视频对话,解决长视频内容理解与精准问答的问题。

视频问答+3
35200—
HKUDS/VideoRAG · 7.98
S
Seg-Zero
JIA-Lab-research·Python

基于认知强化学习、用推理链引导的文本指代图像分割方案,让多模态大模型先推理再分割,提升复杂场景下的分割精度。

图像分割+4
6450—
JIA-Lab-research/Seg-Zero · 7.98
X
X-SAM
wanghao9610·Python

把 SAM 的分割能力扩展到任意分割任务的多模态大模型,支持文本指令驱动的通用图像分割。

图像分割+4
3940—
wanghao9610/X-SAM · 7.95
L
lmms-eval
EvolvingLMMs-Lab·Python

统一评测文本、图像、视频和音频任务的多模态大模型工具箱,一套流程跑完各类基准,省去为每个模态单独搭评测脚本的麻烦。

多模态评测+4
44910—
EvolvingLMMs-Lab/lmms-eval · 7.93
P
PaddleMIX
PaddlePaddle·Python

飞桨多模态大模型开发套件,覆盖图文理解、生成到扩散模型的全流程,提供预训练模型与高性能训练推理工具。

多模态大模型+4
7210—
PaddlePaddle/PaddleMIX · 7.89
J
JarvisEvo
LYL1015·Python

一个能自我进化的照片编辑智能体,通过编辑器和评估器协同优化,让多模态大模型学会像修图师一样自动调色和修图。

照片编辑+4
4150—
LYL1015/JarvisEvo · 7.85
D
DeTikZify
potamides·Python

把草图或科学图表图片自动转成可编辑的 TikZ/LaTeX 绘图代码,省去手写矢量图代码的麻烦。

TikZ生成+4
18280—
potamides/DeTikZify · 7.81
L
LLaVA-Mini
ictnlp·Python

统一的多模态大模型,能高效理解图像、高分辨率图像和视频,用极少的视觉 token 完成多模态推理,适合显存和算力受限的场景。

多模态大模型+4
5730—
ictnlp/LLaVA-Mini · 7.8
O
OS-Agent-Survey
OS-Agent-Survey

系统梳理基于多模态大模型的 OS Agent 研究,覆盖电脑、手机和浏览器三类操作场景,适合快速建立该方向的技术全景。

OS Agent+4
4900—
OS-Agent-Survey/OS-Agent-Survey · 7.76
O
Olympus
yuanze-lin·Python

把多模态大模型变成能调度各类计算机视觉任务的通用路由器,用指令调优统一处理检测、分割等任务,免去为每个任务单独建模。

多模态大模型+4
4270—
yuanze-lin/Olympus · 7.75
C
Crayotter
idwts·Python

基于多模态大模型的视频剪辑智能体,能把文字需求直接变成成片,自动完成剪辑、合成与全流程视频生产。

视频剪辑+4
2520—
idwts/Crayotter · 7.74
V
Video-RAG-master
Leon1207·Python

面向长视频理解的可插拔检索增强框架,无需训练即可为多模态大模型补充视觉对齐的检索证据,提升长视频问答效果。

长视频理解+4
4650—
Leon1207/Video-RAG-master · 7.7
D
DatasetLoom
599yongyang·TypeScript

面向多模态大模型训练的数据集构建与评估平台,支持数据集的智能生成、管理与质量评估,帮助团队高效准备 VLM 训练数据。

多模态数据集+4
3020—
599yongyang/DatasetLoom · 7.67
V
VisionReasoner
JIA-Lab-research·Python

用强化学习把目标检测、分割、计数等视觉感知任务统一进多模态大模型的推理流程,让模型边推理边定位。

视觉感知+4
3530—
JIA-Lab-research/VisionReasoner · 7.65
S
Spatial-TTT
THU-SI·Python

面向流式视频场景的空间智能框架,用测试时训练让多模态大模型持续理解三维空间关系,解决长视频中空间推理能力退化的问题。

空间智能+4
2820—
THU-SI/Spatial-TTT · 7.61
U
UniRL
Tencent-Hunyuan·Python

统一多模态模型的强化学习训练框架,打通 SGLang、vLLM 推理后端,方便把多模态大模型跑通 RL 训练流程。

多模态强化学习+4
10460—
Tencent-Hunyuan/UniRL · 7.59
O
Ovis
ATH-MaaS·Python

Ovis 是一种多模态大语言模型架构,通过结构对齐视觉与文本嵌入,让模型能同时理解图像和文字,适合做视觉问答、图文对话等任务。

多模态大模型+4
15370—
ATH-MaaS/Ovis · 7.59
Q
Qwen-VL-Series-Finetune
2U1·Python

开源微调 Qwen-VL 系列多模态大模型的实现,支持 Qwen2-VL、Qwen2.5-VL、Qwen3-VL 等版本,方便按自己的数据定制视觉语言模型。

多模态微调+4
19800—
2U1/Qwen-VL-Series-Finetune · 7.58
V
Video-ChatGPT
mbzuai-oryx·Python

把大语言模型和适配时空视频表示的视觉编码器结合,让模型能围绕视频内容展开有意义的对话,并提供视频对话模型的量化评测基准。

视频对话+4
15160—
mbzuai-oryx/Video-ChatGPT · 7.34
V
VoRA
Hon-Wong·Python

把视觉能力做成 LoRA 插件直接挂到语言模型上,无需额外视觉编码器就能做多模态理解,省显存也省部署成本。

多模态大模型+4
3870—
Hon-Wong/VoRA · 7.22
V
VEGA-3D
H-EmbodVis·Python

把生成模型里隐含的 3D 先验知识迁移到场景理解任务上,让视觉语言模型在空间推理时更懂三维结构。

空间推理+4
4280—
H-EmbodVis/VEGA-3D · 7.2

发布说明里提到「多模态大模型」

来自 5 个版本
  • data-infra/cube-studiov2026.09.012026-10-12

    …A 12.6 并支持单机多卡训练。 6. 数据与标注 - 自动化标注从 PaddleOCR 切换为 多模态大模型标注 :支持批量预测、并发优化、矩形框标准化、超参数传递、上传图片、在配置中指定模型地址与 Token;DeepSeek 默认模型切换为多模态模型。 - 新增示例:PDF 标注、无人机自动化标注与无人机训练任务流。 - 数据集支

  • tencentmusic/cube-studiov2025.09.012025-11-07

    …y 分布式训练 - 增加llamafactory分布式示例 - 升级llama factory 支持多模态大模型训练 - 升级gpt5 - 支持vllm推理框架 - 丰富模型量化支持“gptq","awq","gguf","hf quantize” - 添加模型蒸馏任务模板 - 支持模型转换任务模板 - 增加opencompass模型评估

  • data-infra/cube-studiov2025.09.012025-10-27

    …y 分布式训练 - 增加llamafactory分布式示例 - 升级llama factory 支持多模态大模型训练 - 升级gpt5 - 支持vllm推理框架 - 丰富模型量化支持“gptq","awq","gguf","hf quantize” - 添加模型蒸馏任务模板 - 支持模型转换任务模板 - 增加opencompass模型评估

  • PaddlePaddle/PaddleMIXv3.0.0-beta2025-05-09

    … GOT-OCR2.0, mPLUG-Owl3 - PP系列模型:发布自研PP-DocBee文档理解多模态大模型,在学术界权威的英文文档理解评测榜单上达到同参数量级别模型SOTA - 工具链升级:完善高性能推理部署,新增支持Qwen2.5VL系列,A800推理性能较vllm领先11.5%。LLaVA、InternVL2模型训练和推理适配昇

  • PaddlePaddle/PaddleMIXv2.1.02024-10-22

    …fusers/examples/dreambooth/README sd3.md)等前沿模型。 - 多模态大模型InternVL2、LLaVA、SD3、SDXL适配昇腾910B,提供国产计算芯片上的训推能力。 What's Changed 【pir 】modify dy2static Sd and 3. Grounding DINO mo