高性能大模型与多模态模型推理服务框架,通过优化注意力机制和调度策略提升吞吐与延迟表现,支持 Llama、DeepSeek、MoE 等主流模型部署。
老牌开源 OCR 引擎,用 LSTM 识别图片中的文字,支持上百种语言,适合做文档扫描和文本提取。
把 PDF、DOCX、HTML 等文档解析成结构化 Markdown 或 JSON,方便喂给大模型和 RAG 流程。
开源的 Python 库,让大模型直接操控浏览器完成点击、填表、抓取等网页任务,省去手写 Playwright 脚本的麻烦。
用 Python 搭建 LLM 应用和智能体的开发框架,把模型调用、工具、检索和记忆串成可组合的链路,省去自己拼装底层胶水代码。
Python 终端富文本渲染库,能在命令行里输出彩色文字、表格、进度条、Markdown 和语法高亮,让终端界面更好看、更好读。
用 Python 以代码优先的方式构建、评测和部署复杂 AI Agent 的开源工具包,让开发者对 Agent 行为有更强的灵活性和控制力。
一套构建生产级 LLM 智能体应用的 12 条工程原则,帮团队把原型打磨成能真正交付给客户的可靠系统。
基于 TypeScript 的开源 AI Agent 框架与工程平台,帮开发者快速搭建、编排和观测 LLM 智能体应用。
用 Python 和 TypeScript 搭建生产级 AI 智能体运行框架,端到端掌控智能体行为,兼容任意模型和云平台。
一条命令搞定 Google Workspace 全家桶:Drive、Gmail、日历、表格、文档、Chat、Admin 都能从命令行操作,接口按 Discovery Service 动态生成,还内置 AI agent 技能。
全栈 MCP 开发框架,用来给 ChatGPT、Claude 做 MCP 应用,也能给 AI Agent 搭 MCP 服务端,省去自己拼协议和客户端。
基于 MCP 协议的 Exa 搜索服务,让 AI 助手直接调用网页搜索与爬取能力,为 Agent 提供实时联网检索。
把自然语言提示词编译成结构化输出的提示工程工具,支持 GPT 等模型,并提供提示词版本管理,省去手写解析逻辑。
Google 开源的智能体应用开发框架,支持 JavaScript、Go、Dart 和 Python,内置 LLM 调用、多模态、RAG 与向量检索能力,帮开发者快速搭建生产级 AI 应用。
用 Python 和 TypeScript 统一调用各家大模型,把提示词、工具调用和结构化输出封装成轻量模块,避免被重型框架绑死。
基于 llama.cpp 的 LLM 智能体框架,支持对话、结构化函数调用和结构化输出,即使模型未针对 JSON 或函数调用微调也能用。
给 DeepSeek、GLM 等纯文本编码助手外挂视觉能力的插件,粘贴图片即可输出包含 OCR、版面和语义的结构化 JSON 证据。
提供各行业专用的 Pydantic schema 集合,让视觉语言模型按统一结构输出 JSON,省去手写解析和字段对齐的麻烦。
一套不依赖框架的 Colab 实战笔记本,覆盖模型 API、结构化输出、工具调用、RAG、评测、Agent 循环、LoRA 微调与提示注入防护,帮 AI 工程师和 FDE 快速上手真实技能。
…脱敏设置时沿用上次读到的设置,不再当作关闭; 工具数据和工具描述也会被遮; 新共享的账号立即隐藏。 结构化输出 schema 的描述也会被遮( 1263)。 Responses WebSocket 消息在解压后也有大小上限,不只限制线上传输的大小( 1243)。 7. 运维 模型准入与结算准入不再有竞态,并发请求不会超出 Key 的预算(
… 每种客户端拿到各自的停止原因, response.incomplete 会被转发( 1207); 结构化输出跨协议保留,向 Claude 客户端流式发送工具参数,并编码它无法解析的 tool use id( 1213); 所有上游的缓存计数都计费,冷却按失败类型区分,修复 Claude 工具历史( 1228)。 其他: Antigrav
…. --- Add Features - 新增智能设置,统一管理 AI 供应商、模型、图片输入能力、结构化输出和 Prompt;供应商 API Key 通过 AI CONFIG SECRET 加密保存,支持 Cloudflare 与 Docker 部署。 - 文件管理新增单张及批量图片 AI 标签识别,支持选择建议标签后追加保存、查看进度
…的问题。修复了 Responses 已经回复完、日志里却记成断开的问题,用量照常记。 其他 :修复了结构化输出和工具参数字段顺序被打乱的问题,按客户端原来的顺序发给上游。修复了 Chat 转 Gemini 时丢掉 imageConfig 的问题,图片尺寸和比例会带过去。修复了高级自定义保存后「透传请求体」丢失的问题。修复了编辑令牌或模型时
…nse format 翻译为 Anthropic 的 output config.format(原生结构化输出) - 默认峰谷时段模板与 DeepSeek 现行方案同步(工作日 09:00–12:00 / 14:00–18:00 ×2,其余 ×1);模板仍默认关闭
…//github.com/ArcReel/ArcReel/issues/3324) gemini: 结构化输出不再下发 additionalProperties,直连 Gemini API 的剧本流水线恢复可用 ([74cf528](https://github.com/ArcReel/ArcReel/commit/74cf528a452