用一个 Transformer 统一多模态理解与生成,既能看图回答,也能按文字生成图像,省去多模型拼接的麻烦。
字节跳动开源的视觉语言基础模型,主打通用多模态理解与推理,在 60 个公开基准中有 38 项达到 SOTA,配套 Notebook 教程方便上手。
用视觉语言模型做摄像头监控,能理解画面内容而不只是检测移动,适合替代传统 NVR 的简单告警。
开源的多模态大扩散语言模型,用块扩散、混合思维链和统一强化学习,把多模态理解与生成放进同一个模型里做。
小米开源的视觉语言模型,能看图回答问题,适合做视觉问答和多模态理解任务。
面向自动驾驶场景的视觉语言基础模型,通过多模态理解把驾驶画面转成可推理的语义描述,为端到端驾驶提供感知与决策支持。
从零训练原生视觉语言模型的开源系列,去掉独立视觉编码器,让多模态理解与生成在统一架构里完成。
OmniVinci 是英伟达开源的全模态大模型,能同时理解视觉、音频和语言三种输入,适合做多模态联合推理与训练研究。
把视觉能力做成 LoRA 插件直接挂到语言模型上,无需额外视觉编码器就能做多模态理解,省显存也省部署成本。
统一多模态模型,把图文理解、文生图和图像编辑整合进同一套框架,省去为不同任务分别部署模型的麻烦。
…I 智能体提供免费多模态能力。 功能 - 多模态对话 :多轮对话、深度思考(思维链)、联网搜索 - 多模态理解 :识图、读 PDF/Word/Excel/代码等 60+ 种文件格式 - 图片生成 :文生图、图生图 - 视频生成 :Seedance 2.0(异步任务) - 音乐生成 :文本描述 + 可选歌词 - 文件上传 :最大 1GB,永
2025.05.09 发布PaddleMIX 3.0.0-beta 多模态理解 - 新增模型:Qwen2VL/Qwen2.5VL系列,DeepSeek-VL2, miniCPM-V 2.6, Janus系列,LLaVA-Critic, LLaVA-DenseConnector, LLaVA-OneVision, GOT-OCR2.0, m
多模态理解 1. 新增模型:LLaVA: v1.5-7b, v1.5-13b, v1,6-7b,CogAgent, CogVLM, Qwen-VL, InternLM-XComposer2 2. 数据集增强:新增chatml dataset图文对话数据读取方案,可自定义chat template文件适配,支持混合数据集 3. 工具链升级: