bella-openapi

LianjiaTechMIT活跃维护

一个聚合多家大模型与云厂商的 AI 能力网关，除聊天补全外还统一提供文本向量化、语音识别合成、文生图等接口，并内置计费、限流和资源管理。

Bella OpenAPI是一个提供了丰富的AI调用能力的API网关，可类比openrouter，与之不同的是除了提供聊天补全(chat-completion)能力外，还提供了文本向量化(text-embedding)、语音识别(ASR)、语音合成(TTS)、文生图、图生图等多种AI能力，同时集成了计费、限流和资源管理功能。且集成的所有能力都经过了大规模生产环境的验证。

v1.2.106发布于 2026-10-30 04:34 UTC241star +1 / 7 天47fork同步于 2026-11-10 12:03 UTC

AI 网关大模型网关语音合成文本向量化计费限流

对比 GitHub 官网 ai-gateway azure-openai bedrock deepseek llm

怎么上手

由 README 提炼，执行前请确认

原文

cd bella-openapi && ./start.sh

硬件要求按 README 说明

README 未说明显存或 GPU 要求，仅要求安装 Docker 与 Docker Compose，并在项目根目录执行启动脚本

有 Docker 镜像

下载：源码 zip·GitHub Releases（安装包）本站不镜像安装包

项目说明

由 README 自动翻译提炼

没人工点评？写下你的经验

自建 AI API 网关，统一接入聊天、向量、语音、文生图并内置计费限流

一个聚合多家大模型与云厂商的 AI 能力网关，除聊天补全外还统一提供文本向量化、语音识别合成、文生图等接口，并内置计费、限流和资源管理。

核心能力

统一网关聚合聊天补全、文本嵌入、ASR、TTS、文生图等能力
用 Category-Endpoint-Model-Channel 四层元数据做动态路由
基于 Redis+Lua 滑动窗口实现分布式限流与配额控制
支持 OAuth 2.0、CAS 单点登录和 API Key 多种认证
内置 Mock 能力点，便于单元测试和压力测试

容易踩的坑

必须在 bella-openapi 项目根目录执行 start.sh，否则启动失败；启动脚本会拉取远端镜像，本地无镜像时需联网；前端用 development 环境跑启动脚本可能编译失败，需用 next.dev 单独启动 web 服务

内容由模型根据 README 生成，可能不完整或不准确，以官方文档为准。看原文 README

Bella OpenAPI v1.2.106

SDK 信息

SDK 版本: 1.2.78

<dependency>
  <groupId>top.bella</groupId>
  <artifactId>openapi-sdk</artifactId>
  <version>1.2.78</version>
</dependency>

SPI 信息

SPI 版本: 1.2.78

<dependency>
  <groupId>top.bella</groupId>
  <artifactId>openapi-spi</artifactId>
  <version>1.2.78</version>
</dependency>

Docker 镜像

API 服务

docker pull bellatop/bella-openapi-api:v1.2.106

Web 服务

docker pull bellatop/bella-openapi-web:v1.2.106

支持的平台: linux/amd64, linux/arm64

v1.2.105Bella OpenAPI v1.2.1052026-07-29 · 2026-07-29 04:00 UTC

查看更新说明

Bella OpenAPI v1.2.105

SDK 信息

SDK 版本: 1.2.77

<dependency>
  <groupId>top.bella</groupId>
  <artifactId>openapi-sdk</artifactId>
  <version>1.2.77</version>
</dependency>

SPI 信息

SPI 版本: 1.2.77

<dependency>
  <groupId>top.bella</groupId>
  <artifactId>openapi-spi</artifactId>
  <version>1.2.77</version>
</dependency>

Docker 镜像

API 服务

docker pull bellatop/bella-openapi-api:v1.2.105

Web 服务

docker pull bellatop/bella-openapi-web:v1.2.105

支持的平台: linux/amd64, linux/arm64

v1.2.104Bella OpenAPI v1.2.1042026-07-29 · 2026-07-29 02:02 UTC

查看更新说明

Bella OpenAPI v1.2.104

SDK 信息

SDK 版本: 1.2.76

<dependency>
  <groupId>top.bella</groupId>
  <artifactId>openapi-sdk</artifactId>
  <version>1.2.76</version>
</dependency>

SPI 信息

SPI 版本: 1.2.76

<dependency>
  <groupId>top.bella</groupId>
  <artifactId>openapi-spi</artifactId>
  <version>1.2.76</version>
</dependency>

Docker 镜像

API 服务

docker pull bellatop/bella-openapi-api:v1.2.104

Web 服务

docker pull bellatop/bella-openapi-web:v1.2.104

支持的平台: linux/amd64, linux/arm64

v1.2.103Bella OpenAPI v1.2.1032026-05-27 · 2026-05-27 13:28 UTC

查看更新说明

Bella OpenAPI v1.2.103

SDK 信息

SDK 版本: 1.2.75

<dependency>
  <groupId>top.bella</groupId>
  <artifactId>openapi-sdk</artifactId>
  <version>1.2.75</version>
</dependency>

SPI 信息

SPI 版本: 1.2.75

<dependency>
  <groupId>top.bella</groupId>
  <artifactId>openapi-spi</artifactId>
  <version>1.2.75</version>
</dependency>

Docker 镜像

API 服务

docker pull bellatop/bella-openapi-api:v1.2.103

Web 服务

docker pull bellatop/bella-openapi-web:v1.2.103

支持的平台: linux/amd64, linux/arm64

v1.2.102Bella OpenAPI v1.2.1022026-04-29 · 2026-04-29 10:38 UTC

查看更新说明

Bella OpenAPI v1.2.102

SDK 信息

SDK 版本: 1.2.74

<dependency>
  <groupId>top.bella</groupId>
  <artifactId>openapi-sdk</artifactId>
  <version>1.2.74</version>
</dependency>

SPI 信息

SPI 版本: 1.2.74

<dependency>
  <groupId>top.bella</groupId>
  <artifactId>openapi-spi</artifactId>
  <version>1.2.74</version>
</dependency>

Docker 镜像

API 服务

docker pull bellatop/bella-openapi-api:v1.2.102

Web 服务

docker pull bellatop/bella-openapi-web:v1.2.102

支持的平台: linux/amd64, linux/arm64

用户点评

登录用户的真实使用记录，可按版本和硬件筛选

共 0 条

还没有人点评。第一个说出真实体验的人最有价值。

README 原文

未翻译

在 GitHub 打开

Bella OpenAPI

中文 | English | 了解更多 | 加入社区贡献

我们部署了线上体验版的Bella OpenAPI，您可以登录访问Bella OpenAPI
如需快速启动并体验服务，请阅读：快速启动
想了解详细的环境变量配置和启动部署细节，请阅读：配置详情和启动与部署详情

核心功能

AI能力点

文本处理
- 聊天补全：提供对话补全能力，同时支持OpenAI的ChatCompletion API和Anthropic的Message API
- 文本嵌入：生成文本的向量表示，用于语义搜索和相似度计算
语音服务
- 实时语音识别：支持流式语音识别和一句话语音识别，适用于实时交互场景
- 文件转写：支持上传音频文件进行离线转写
- 语音合成：将文本转换为自然语音输出，支持流式
- 实时对话：支持用户通过麦克风进行实时语音输入，系统自动识别语音内容，调用大模型生成回复，并将回复内容转换为语音输出
图像服务
- 图生图：对图片进行编辑，生成新的图片（敬请期待）
- 文生图：根据文本生成图片

元数据管理

多层级结构：采用Category-Endpoint-Model-Channel四层结构
- Category（类别）：API服务的顶层分类，如语音服务、文本服务等
- Endpoint（端点）：具体的API功能入口，如实时语音识别、聊天补全等
- Model（模型）：支持各个端点的AI模型，如不同的语音识别模型、大语言模型等等
- Channel（通道）：具体的服务提供方实现，包含供应商、协议和配置信息
灵活的路由机制：基于用户请求和配置，智能选择最合适的服务通道
可视化管理界面：提供直观的Web界面进行元数据配置和管理

统一登录服务

多种认证方式：支持OAuth 2.0、CAS单点登录和API Key认证
会话管理：基于Redis的分布式会话存储
用户权限：细粒度的权限控制和管理

计费与限流

API Key管理：支持层级化的API Key结构
配额控制：按月度配额管理API使用量
限流机制：基于Redis的分布式限流实现

系统优势

大规模的生产环境验证

极高的稳定性：已服务于贝壳找房全线业务，服务日均调用量1.5亿，经受住了大规模的生产环境考验
丰富的业务场景：业务场景覆盖广泛，可以适应生产环境中的绝大多数情况
广泛的使用场景：已服务于贝壳找房全线业务，经受住了大规模的生产环境考验

丰富的能力

全面的AI能力：支持聊天补全、文本向量化、语音识别（实时、离线、一句话）、语音合成（支持流式）、文生图、图生图等多种AI能力
Mock能力：内置能力点mock功能，可用于单元测试和压力测试

优秀的特性

Function Call支持：为不支持functioncall的LLM扩展了functioncall特性
路由策略：优秀的路由策略，确保高峰期能力点渠道的最大化处理能力
请求队列：支持队列特性，确保高峰期请求有序处理
备用模型：支持备用模型机制（敬请期待），提高服务可用性
最大等待时间：支持设置最大等待时间（敬请期待），优化用户体验

统一的元数据管理

灵活的多层级结构：采用Category-Endpoint-Model-Channel四层结构，使系统具有高度的可扩展性和灵活性
集中式配置：所有API服务的配置集中管理，便于运维和监控
动态路由：基于用户请求和配置，智能选择最合适的服务通道，提高服务质量

高性能缓存设计

多级缓存架构：结合Redisson、Caffeine和JetCache，实现本地缓存与分布式缓存的协同工作
高吞吐量：本地缓存减少网络开销，分布式缓存确保集群一致性
自动失效机制：智能的缓存失效策略，平衡数据一致性和性能

高性能日志消费框架

基于Disruptor的异步处理：采用高性能的Disruptor环形缓冲区实现日志事件的异步处理，大幅降低系统延迟
多处理器并行架构：支持多个事件处理器并行工作，同时处理计费、指标收集和限流控制
无锁设计：使用无锁队列和SleepingWaitStrategy策略，减少线程竞争，提高吞吐量
优雅的异常处理：集成专用的异常处理器，确保日志处理错误不影响主业务流程

高效的分布式限流和渠道性能监控

低耦合性：基于日志实现，与主逻辑解耦，各个能力点只需按照规则上报日志即可自定义性能监测的维度
基于Lua脚本的原子操作：使用Redis+Lua脚本实现分布式限流，保证原子性和一致性
滑动窗口算法：采用精确的滑动窗口算法实现限流和监控，减少存储资源使用
多级缓存设计：结合本地缓存和分布式缓存，优化限流性能，减少网络开销
并发请求控制：对于试用APIKEY，精确跟踪并控制每个API Key的并发请求数，防止资源过度占用
自动过期机制：智能设置过期时间，避免资源泄漏，确保系统长期稳定运行

统一的错误处理

一致的用户体验：统一的错误提示格式和展示方式
细粒度错误分类：区分服务不可用和其他错误类型，提供更精准的反馈
友好的错误提示：针对不同错误类型使用不同的视觉样式，提高用户体验

安全可靠

多层次认证：支持OAuth 2.0、CAS单点登录和API Key认证
细粒度权限控制：基于角色的访问控制，确保资源安全
完善的审计日志：记录关键操作，便于追踪和问题排查
生产环境验证：经过大规模的生产环境的验证，稳定可靠

可扩展性

微服务架构：基于Spring Boot的微服务设计，便于横向扩展
容器化部署：Docker和Docker Compose支持，简化部署和扩展
第三方服务集成：灵活的通道机制，轻松集成各种AI服务提供商

Java友好的技术栈

Spring Boot生态：基于Spring Boot框架，对Java开发者友好
丰富的工具链：集成了常用的Java开发工具和库
完善的文档：提供详细的API文档和开发指南

便捷的体验

提供免费的云端体验服务：您可以登录访问Bella OpenAPI直接体验所有能力
docker启动无需编译：提供了便捷的启动方式，通过启动脚本自动拉取镜像，无需编译
便捷的启动配置：启动脚本提供了丰富的启动参数，您可以根据需要配置，无需修改配置文件

快速启动

本项目使用Docker Compose来启动所有服务，包括后端API、前端Web、MySQL和Redis。

前提条件

安装 Docker
安装 Docker Compose
执行目录必须在bella-openapi项目的根目录下

启动服务

如果本地不存在镜像，会拉取远端镜像

./start.sh 
./start.sh --github-oauth CLIENT_ID:CLIENT_SECRET --google-oauth CLIENT_ID:CLIENT_SECRET --server URL （通过启动参数配置oauth登录服务和服务域名）

注意：如果需要配置用户登录，方法见：OAuth配置

启动服务后会自动检查是否存在系统ak，如果不存在则执行生成系统ak和管理员授权
如果不想在启动时进行管理员授权（仍会检查系统ak是否需要生成），可以使用--skip-auth参数：

./start.sh --skip-auth

常用选项:

-b, --build: 修改代码后重新构建服务
--github-oauth CLIENT_ID:CLIENT_SECRET: 配置GitHub OAuth登录
--google-oauth CLIENT_ID:CLIENT_SECRET: 配置Google OAuth登录
--server URL: 配置服务域名
--skip-auth: 跳过管理员授权流程

更多详细的启动选项和配置说明，请参阅启动与部署详情。

常见问题与解决方案

1. 前端使用development环境时运行启动脚本编译失败

next.js在dev环境做了预加载相关的优化，如果一定需要使用dev环境，推荐使用next.dev单独启动web服务

2. 初始化并启动系统，清除原有数据（开发、测试环境）

删除数据库：docker exec -it bella-openapi-mysql mysql -uroot -p123456 -e "drop database bella_openapi;" (如非默用户名和密码，请替换为您的用户名和密码)
停止服务：docker-compose down
删除mysql数据：rm -rf ./mysql
删除redis数据：rm -rf ./redis
重新构建并启动：./start.sh -b

怎么上手

项目说明

核心能力

容易踩的坑

最近发版

Bella OpenAPI v1.2.106

SDK 信息

SPI 信息

Docker 镜像

API 服务

Web 服务

Bella OpenAPI v1.2.105

SDK 信息

SPI 信息

Docker 镜像

API 服务

Web 服务

Bella OpenAPI v1.2.104

SDK 信息

SPI 信息

Docker 镜像

API 服务

Web 服务

Bella OpenAPI v1.2.103

SDK 信息

SPI 信息

Docker 镜像

API 服务

Web 服务

Bella OpenAPI v1.2.102

SDK 信息

SPI 信息

Docker 镜像

API 服务

Web 服务

用户点评

README 原文

Bella OpenAPI

目录

核心功能

AI能力点

元数据管理

统一登录服务

计费与限流

系统优势

大规模的生产环境验证

丰富的能力

优秀的特性

统一的元数据管理

高性能缓存设计

高性能日志消费框架

高效的分布式限流和渠道性能监控

统一的错误处理

安全可靠

可扩展性

Java友好的技术栈

便捷的体验

快速启动

前提条件

启动服务

常见问题与解决方案

1. 前端使用development环境时运行启动脚本编译失败

2. 初始化并启动系统，清除原有数据（开发、测试环境）

相关文档

相关项目