开源音乐生成基础模型,用符号规划、零样本翻唱和智能体编辑从歌词生成完整歌曲,适合研究音乐生成与风格迁移。
统一加载和运行文本、视觉、音频、多模态的预训练模型,覆盖推理与训练,省去为每个模型重写代码的麻烦。
系统梳理多模态检索增强生成的研究进展,把图文音视频等跨模态检索与生成方法归拢成一份综述,帮研究者快速摸清这个方向的全貌。
字节开源的多模态 AI Agent 桌面栈,把前沿模型和 Agent 基础设施连起来,让 Agent 能像人一样操作 GUI、浏览器和电脑完成任务。
一套统一接口搞定 100+ 大语言模型和多模态模型的微调,支持 LoRA 等高效训练方式,省去为每个模型单独写训练脚本的麻烦。
本地优先的 AI 智能体工作台,把文档、对话和工具整合成可私有部署的知识库与代理,数据留在自己机器上,不用租用云端智能服务。
高性能大模型与多模态模型推理服务框架,通过优化注意力机制和调度策略提升吞吐与延迟表现,支持 Llama、DeepSeek、MoE 等主流模型部署。
开源的多模态视觉指令微调模型,让 LLaMA 类大模型能看图对话,效果对标 GPT-4V,适合做图文问答和视觉助手。
MiniCPM-V 是面壁智能开源的多模态视觉语言模型,能在手机、PC 等本地设备上完成看图、听音和对话交互,无需依赖云端。
面向中文用户的 Linux 环境大模型实战教程,手把手教你在本地微调(全参数/LoRA)和部署国内外开源 LLM 与多模态模型。
阿里云通义团队开源的多模态大模型系列,能同时理解图像和文本,用于视觉问答、图文推理等视觉语言任务。
面向 LLM 应用的多智能体开发框架,支持多模态、语音与实时交互,让智能体的构建、运行和调试过程可见、可理解、可信。
一站式大模型训练框架,支持 600+ 纯文本大模型和 300+ 多模态大模型的 CPT、SFT、DPO、GRPO 等训练,可用 LoRA 等 PEFT 方式或全参数微调。
基于多模态大模型的 GUI 智能体家族,能看懂手机和电脑界面并自动点击操作,帮你完成跨 App 的自动化任务。
把大语言模型和 Hugging Face 上的各类模型连起来,让 LLM 自动挑选、调用合适的模型完成多模态任务,相当于给模型加了个调度中枢。
一站式多模态 RAG 框架,把文本、图像等不同模态的检索与生成统一到同一套流程里,省去自己拼接多个组件的麻烦。
把网页直接当像素图像来检索的 RAG 引擎,跳过 HTML 解析,靠视觉语言模型做原生搜索,适合构建多模态 Agent 的长期记忆。
面向大模型应用开发的 RAG 全栈实战教程,覆盖文本向量化、检索、重排与多模态等环节,手把手带你搭建检索增强生成系统。
让多模态大模型直接看屏幕、动鼠标键盘来操作电脑的框架,把自然语言指令变成实际的桌面自动化操作。
SeaTunnel 是高性能分布式数据集成工具,支持批处理、CDC 变更捕获和多模态数据接入,用于海量数据在异构系统间高效同步。
面向 AI Agent 的多模态数据运行时,提供无服务器 Postgres 与数据湖,支持大规模检索和模型训练。
开源多模态大模型家族,视觉语言能力接近 GPT-4o,支持图像分类、图文检索、语义分割和视频理解等任务。
跨平台桌面标注工具,支持文本、图像、视频、点云和多模态数据,内置 AI 模型辅助预标注,可导出多种格式。
面向多模态 AI 的嵌入式向量检索库,支持近似最近邻搜索和语义相似度检索,无需单独部署服务,帮开发者省去向量数据管理的麻烦。
一站式可视化 AI Agent 开发平台,用拖拽式工具完成智能体的创建、调试和部署,大幅降低搭建聊天机器人与多模态应用的门槛。
开源 LLM 应用编排框架,用模块化管道和智能体工作流显式控制检索、路由、记忆与生成,适合搭建 RAG、语义搜索和多模态对话系统。
开源本地 AI 推理引擎,无需 GPU 即可在任意硬件上跑 LLM、视觉、语音和图像生成模型,提供兼容 OpenAI 的 API。
一套能在手机和边缘设备上本地跑大模型、扩散模型和多模态推理的生产级 SDK,覆盖 Android、iOS、Flutter,省去自己搭推理链路的麻烦。
用对比学习把图像和文本映射到同一嵌入空间,实现零样本图像分类和图文匹配,是跨模态检索与多模态模型的经典底座。
用两小时从零训练一个 65M 参数的多模态视觉语言模型,代码和流程完整,适合低成本复现 VLM 训练与对话实验。
面向全模态模型的高效推理框架,支持图像、视频、音频生成与多模态模型服务,基于 PyTorch 提供统一的推理与部署能力。
一行代码就能把 GPT 换成任意开源大模型,统一推理 API 支持云端、本地和笔记本部署,覆盖语言、语音和多模态模型。
面向 AI 与多模态负载的高性能数据引擎,用 Rust 编写,能大规模处理图像、音频、视频和结构化数据,适合搭建 ETL 与数据管道。
面向多模态 AI 的开放湖仓数据格式,两行代码即可从 Parquet 转换,实现百倍随机访问加速、向量索引和数据版本管理,兼容 Pandas、DuckDB、PyTorch 等生态。
用强化学习(GRPO)训练视觉语言模型做视觉理解,把 DeepSeek-R1 那套推理强化思路搬到多模态场景,适合研究 VLM 推理能力。
基于 Stream 边缘网络快速搭建语音与视觉智能体,可接入任意模型或视频源,实现超低延迟的实时多模态交互。
持续录制电脑屏幕和音频,把日常工作流整理成可检索的记录,帮你找出值得自动化的环节,并为 AI 智能体提供上下文。
ERNIE 4.5 系列大模型与配套的工业级开发工具包 ERNIEKit,基于 PaddlePaddle,支持大语言模型和多模态模型的训练、微调与推理部署。
开源计算机使用智能体,能像人一样操作图形界面完成桌面任务,靠多模态大模型、规划与记忆实现自动化操作。
在骁龙设备的 NPU、GPU 和 CPU 上本地跑大模型和多模态模型,几行代码就能接入,省去自己适配硬件的麻烦。
…卡在「进行中」的问题(对这两类 provider 默认禁用工具调用流式,正文回答仍流式)。 - 修复多模态对话上传透明 PNG 失真、 .jpg 包裹 PNG 内容时前端按错误格式加载的问题。 - 修复用户管理列表超过 100 人被默认分页截断的问题。 - 修复知识库文件大小显示为 0、MinERU 文档解析配置说明错误等问题。 💥 升
…ao2api v0.1.0 逆向豆包客户端 API,为 AI 智能体提供免费多模态能力。 功能 - 多模态对话 :多轮对话、深度思考(思维链)、联网搜索 - 多模态理解 :识图、读 PDF/Word/Excel/代码等 60+ 种文件格式 - 图片生成 :文生图、图生图 - 视频生成 :Seedance 2.0(异步任务) - 音乐生成