一个面向 LLM 的推理优化代理,通过 API 网关接入,自动套用思维链等推理策略来提升模型回答质量并降低调用成本。
开源的多模态大扩散语言模型,用块扩散、混合思维链和统一强化学习,把多模态理解与生成放进同一个模型里做。
用分形图结构组织 AI Agent 的思维链,把笔记、网页链接和代码连成可导航的知识图谱,适合做多智能体推理与头脑风暴。
用 LoRA/QLoRA 微调大模型,并借助思维链数据生成与蒸馏提升推理准确率,适合低成本定制模型。
让视觉语言模型在推理时生成连续视觉 token 作为中间思考步骤,提升看图与推理表现,附带 ECCV 2026 论文官方实现。
让视觉语言模型在推理时生成隐式视觉 token 做「脑内想象」,无需输出真实图像就能增强多模态空间推理能力。
…包客户端 API,为 AI 智能体提供免费多模态能力。 功能 - 多模态对话 :多轮对话、深度思考(思维链)、联网搜索 - 多模态理解 :识图、读 PDF/Word/Excel/代码等 60+ 种文件格式 - 图片生成 :文生图、图生图 - 视频生成 :Seedance 2.0(异步任务) - 音乐生成 :文本描述 + 可选歌词 - 文件
…复高并发场景下,全自动蒸馏进度弹框卡顿的问题 694 3. 修复使用 Ollama 进行模型评估时,思维链处理异常的问题 714 4. 修复自定义模型评估提示词不生效的问题 687 ⚡ 优化 1. 优化 OpenAI-Compatible API 兼容性问题 2. 优化模型设置中 Temperature 和 TOP-P 参数的配置问题 7
… → 混合检索 → 重排序 → 生成回答 - features/ (3个模块):联网搜索、矛盾检测、思维链处理 - utils/ :网络工具 - config.py :配置中心 - 消除全局变量 :使用 VectorStore 类封装 FAISS 索引和数据 - 代码精简 32% :总代码从 ~2775 行优化至 ~1891 行 🐛 B
主要更新 - 适配通过 <think 标签或 reasoning content 字段返回的思维链内容 - 支持 Temperature 调节 Main Updates - Support reasoning content returned through <think tag or reasoning content field -