高性能大模型与多模态模型推理服务框架,通过优化注意力机制和调度策略提升吞吐与延迟表现,支持 Llama、DeepSeek、MoE 等主流模型部署。
让多模态大模型直接看屏幕、动鼠标键盘来操作电脑的框架,把自然语言指令变成实际的桌面自动化操作。
一套统一接口搞定 100+ 大语言模型和多模态模型的微调,支持 LoRA 等高效训练方式,省去为每个模型单独写训练脚本的麻烦。
用对比学习把图像和文本映射到同一嵌入空间,实现零样本图像分类和图文匹配,是跨模态检索与多模态模型的经典底座。
用 Playwright 加 AI 盯闲鱼,多任务实时或定时监控商品并做智能分析,配后台管理界面,帮你从海量二手商品里筛出想要的。
ERNIE 4.5 系列大模型与配套的工业级开发工具包 ERNIEKit,基于 PaddlePaddle,支持大语言模型和多模态模型的训练、微调与推理部署。
把 PDF、Word、PPT 解析成适合喂给大模型的格式,尽量不丢内容,省去自己清洗文档的麻烦。
面向全模态模型的高效推理框架,支持图像、视频、音频生成与多模态模型服务,基于 PyTorch 提供统一的推理与部署能力。
统一加载和运行文本、视觉、音频、多模态的预训练模型,覆盖推理与训练,省去为每个模型重写代码的麻烦。
用自然语言直接操控网页界面的 JavaScript 页面内 GUI 智能体,把浏览器自动化从写选择器变成说人话,适合做网页操作助手和自动化流程。
阿里云通义团队开源的多模态大模型系列,能同时理解图像和文本,用于视觉问答、图文推理等视觉语言任务。
用强化学习训练 Transformer 语言模型的全流程库,覆盖 SFT、奖励建模到 PPO/DPO 等 RLHF 算法,省去自己拼训练管线。
MiniCPM-V 是面壁智能开源的多模态视觉语言模型,能在手机、PC 等本地设备上完成看图、听音和对话交互,无需依赖云端。
面向中文用户的 Linux 环境大模型实战教程,手把手教你在本地微调(全参数/LoRA)和部署国内外开源 LLM 与多模态模型。
开源实现的 CLIP 多模态模型,提供图像-文本对比学习训练与预训练权重,支持零样本图像分类和跨模态检索。
用大模型把任意网页抓取并转成结构化数据,底层靠 Playwright/Puppeteer 驱动浏览器,适合做网页信息抽取和自动化采集。
在骁龙设备的 NPU、GPU 和 CPU 上本地跑大模型和多模态模型,几行代码就能接入,省去自己适配硬件的麻烦。
一行代码就能把 GPT 换成任意开源大模型,统一推理 API 支持云端、本地和笔记本部署,覆盖语言、语音和多模态模型。
让 Cursor、Claude Code 等 AI 编程助手通过 MCP 协议直接读写 Figma 设计稿,实现设计稿的自动读取与程序化修改。
一站式搞定 Qwen、Gemma 等开源大模型和多模态模型的微调(SFT/RL)、评测与部署,零代码也能上手。
一站式大模型训练框架,支持 600+ 纯文本大模型和 300+ 多模态大模型的 CPT、SFT、DPO、GRPO 等训练,可用 LoRA 等 PEFT 方式或全参数微调。
…和 token compress 配置,按 Token 预算选取文本句子;默认关闭,支持纯文本请求及多模态模型的纯文本输入 OpenCL 前缀 KVCache 文件 :新增 setPrefixCacheFile 支持 Attention mask 统一 :统一 mask 构造及各后端的处理语义 CPU 后端 SME2 计算单元检测 :识别
…框标准化、超参数传递、上传图片、在配置中指定模型地址与 Token;DeepSeek 默认模型切换为多模态模型。 - 新增示例:PDF 标注、无人机自动化标注与无人机训练任务流。 - 数据集支持配置训练集 / 测试集 / 评估集。 - 数据集详情页支持导入到个人目录。 - 离线库表新增连接串 + 列信息 + 只读数据预览( Metadat
…将当前画面随翻译发送给兼容的 LLM,用于辅助判断阅读顺序、识别内容和画面语境。该功能默认关闭。不同多模态模型的识别能力差异较大,暂时不能保证提高文字识别质量;开启后还会增加等待时间和调用费用,请根据所用模型的实际效果选择。 优化:完善思考模式、推理强度、图片清晰度和自定义请求参数等 LLM 设置。 优化:调整日文、中文、韩文和拉丁文字识
…新增Weight Only量化方法对QKVGate proj的支持 6669 PD分离相关功能 新增多模态模型P/D分离支持 5323 新增PD分离部署配置简化和端口管理重构 5415 新增PD分离支持动态C8 IPC 5750 新增PD分离RDMA动态C8支持 5788 CUDA Graph相关功能 新增Qwen3-VL和Qwen3-V
…nd clear 的 JSON 递归合并问题 多模态 OOB 崩溃 : 修复 llm bench 中多模态模型的越界崩溃 Reranker Demo 崩溃 : 修复未加载模型时 reranker demo 崩溃 Metal INT8/INT4 Conv2D : 修复 weighti8i4conv2d 算子测试错误 Benchmark 崩溃
…started/ernie-4.5-vl-thinking.md) - 新增PaddleOCR-VL多模态模型部署支持 4936 - 多模态模型和思考模型增加受限解码StructredOutput支持 2749 - 多模态模型增加Prefix Caching与Encoder Caching支持 4134 - 新增Wfp8Afp8在线量化推