用统一接口调用 Anthropic、Cohere 等多家大模型,省去分别对接各家 API 的麻烦,适合快速搭建 LLM 应用。
一个聚合多家大模型与云厂商的 AI 能力网关,除聊天补全外还统一提供文本向量化、语音识别合成、文生图等接口,并内置计费、限流和资源管理。
… 服务网关 - 增加服务网关功能 - 优化服务网关 - 服务网关去除插件list-column - 大模型网关支持大模型提示词,参数值映射,参数值固定 - 优化大模型网关缓存 - 支持续写统一网关 - 添加网关流量访问 - 优化大模型监控可视化 - 设置大模型测试最大对话长度 - 修复token限制 - 修复chat 上下文记录的能力 -
… 服务网关 - 增加服务网关功能 - 优化服务网关 - 服务网关去除插件list-column - 大模型网关支持大模型提示词,参数值映射,参数值固定 - 优化大模型网关缓存 - 支持续写统一网关 - 添加网关流量访问 - 优化大模型监控可视化 - 设置大模型测试最大对话长度 - 修复token限制 - 修复chat 上下文记录的能力 -