一个高性能 AI 网关,用统一 API 把请求路由到 1600+ 大模型,并内置 50+ 安全护栏,省去多模型接入和内容风控的重复开发。
一个可随使用不断成长的 AI Agent 框架,支持接入 Claude、ChatGPT 等多种大模型,用于搭建和编排自主智能体。
自托管的 LLM 网关,统一兼容 OpenAI、Claude、Gemini 等接口,提供模型路由、访问控制、用量统计与成本核算,方便团队集中管理和分发大模型调用。
基于 Envoy 的云原生 AI 网关,统一代理和路由大模型 API 与微服务流量,支持 AI 原生插件扩展。
在 macOS 菜单栏里统一管理各家大模型的接入,让 Codex 跑在 DeepSeek 上、Claude Code 跑在 Kimi 上,省去逐个配置的麻烦。
把 OpenAI、Claude、Gemini、通义千问等十几家主流大模型统一到一个 API 下,方便做密钥管理和二次分发,单文件部署开箱即用。
给 dsh 装个插件就能免登录、免 API Key 直接用 DeepSeek V4.1 Flash、Kimi K3 等前沿大模型,完全免费且不限量。
用大模型驱动浏览器自动完成网页操作流程,无需写死选择器,适合抓取、填表等重复性网页任务。
8MB 的 RWKV 模型管理与启动工具,全自动部署推理,并提供兼容 OpenAI API 的接口,方便直接接入现有客户端。
一行代码接入的 LLM 可观测性平台,能监控大模型调用、追踪成本与延迟,并支持评估和实验对比,方便排查线上问题。
本地大模型推理服务的模型热切换代理,按需自动加载和卸载不同模型,让单个服务端同时对外提供多个 LLM,省去手动重启。
… 服务网关 - 增加服务网关功能 - 优化服务网关 - 服务网关去除插件list-column - 大模型网关支持大模型提示词,参数值映射,参数值固定 - 优化大模型网关缓存 - 支持续写统一网关 - 添加网关流量访问 - 优化大模型监控可视化 - 设置大模型测试最大对话长度 - 修复token限制 - 修复chat 上下文记录的能力 -
… 服务网关 - 增加服务网关功能 - 优化服务网关 - 服务网关去除插件list-column - 大模型网关支持大模型提示词,参数值映射,参数值固定 - 优化大模型网关缓存 - 支持续写统一网关 - 添加网关流量访问 - 优化大模型监控可视化 - 设置大模型测试最大对话长度 - 修复token限制 - 修复chat 上下文记录的能力 -