AIHelms

beizhu-1209GPL-3.0活跃维护

企业级 AI 资源纳管平台,用统一网关接入 OpenAI、Claude、DeepSeek 等主流模型,做 Token 调度、成本归因和安全审计,帮企业管住 AI 开销、算清 ROI。

企业级 AI 资源纳管平台,提供统一 AI网关、Token调度能力,纳管 OpenAI、Azure、Claude、DeepSeek 等主流模型,并支持 MCP 工具与 Skill 的集中注册分发。具备内外双轨定价、成本归因、统一身份认证、安全审计与效能报表,帮助企业精准控制成本、量化 ROI,高效治理 AI 资产。

0.1.26发布于 2026-10-26 01:41 UTC1,033star +1 / 7 天106fork同步于 2026-11-10 23:51 UTC

怎么上手

由 README 提炼,执行前请确认
git clone https://github.com/beizhu-1209/AIHelms.git
cd AIHelms
cp .env.example .env
docker compose up -d
硬件要求按 README 说明

README 未说明 GPU 或显存要求;部署环境要求 Docker 20.10+、Docker Compose v2+,最低 4 核 8G 内存。

有 Docker 镜像
下载:源码 zip·GitHub Releases(安装包)本站不镜像安装包

项目说明

由 README 自动翻译提炼

企业级 AI 资源纳管平台,统一网关接入主流模型并核算成本与用量

企业级 AI 资源纳管平台,用统一网关接入 OpenAI、Claude、DeepSeek 等主流模型,做 Token 调度、成本归因和安全审计,帮企业管住 AI 开销、算清 ROI。

核心能力

  • 统一网关纳管 OpenAI、Azure、Claude、DeepSeek 等供应商模型
  • 同模型多部署负载均衡,兼容 OpenAI 与 Anthropic 双格式
  • 内外双轨定价,按人、部门、项目、模型设软硬预算
  • 调用成本归因到 token 级,自动生成周/月效能报告
  • Skill 与 MCP 工具集中注册、审批与分发

容易踩的坑

启动前必须编辑 .env 填入 POSTGRES_PASSWORD、SECRET_KEY、SUPER_ADMIN_PASSWORD 等密钥;默认管理员 admin 的密码取自 .env 中的 SUPER_ADMIN_PASSWORD,不是固定值;项目采用 GPL-3.0 协议,组织政策不允许时需另行咨询商业授权。

内容由模型根据 README 生成,可能不完整或不准确,以官方文档为准。看原文 README

最近发版

5 个版本0.1.26
  1. 0.1.26最新正式版2026-10-26 · 2026-10-26 01:41 UTC

    更新管理员配置

  2. 0.1.25Fix Bugs2026-09-26 · 2026-09-26 08:08 UTC

    这个版本没有写更新说明。

  3. 0.1.242026-09-10 · 2026-09-10 10:49 UTC
    查看更新说明

    #修复部分bug

  4. 0.1.222026-08-25 · 2026-08-25 12:38 UTC
    查看更新说明

    更新Hub端支持邮箱登录;导出任务历史自动清理变为可配置项;更新MCP日志滑块,复用env中llm配置项

  5. 0.1.210.1.21 DeepSeek Harness2026-08-24 · 2026-08-24 08:27 UTC
    查看更新说明

    1.修复部分bug,丰富导出功能。 2.增加Hub端 DeepSeek Harness功能,以Docker作为sandbox,可提供给内部使用,可以切换分支体验。待dsh正式版发布后,使用E2B替换sandbox

用户点评

登录用户的真实使用记录,可按版本和硬件筛选
共 0 条

    还没有人点评。第一个说出真实体验的人最有价值。

    README 原文

    未翻译

    Release Docker Python FastAPI Vue TypeScript TailwindCSS PostgreSQL Redis vLLM SGLang

    核心价值 · 功能展示 · 快速开始 · 部署文档 · 使用手册


    这是什么

    AIHelms 是面向企业的 AI 资源纳管平台。帮助企业管理 AI 资产、控制 AI 成本、衡量 AI 价值的管理工具。

    • 决策层 - 平台全程记录用量、核算成本、生成报表,让看得见 AI 的投入产出比
    • 管理员 - 通过后台统一接入模型、分配身份、设定预算
    • 员工 - 通过用户端获取 AI 身份,接入任意客户端使用

    架构图

    核心价值

    成本可见可控

    企业使用 AI 最大的焦虑是"钱花了但不知道花在哪"。AIHelms 建立了完整的成本体系:

    • 内外双轨定价 — 外部成本(供应商实际收费)和内部结算价(企业对部门的计费)分开核算。企业可以按成本价透传,也可以加价内部结算
    • 多维预算管控 — 按人、按部门、按项目、按模型设预算,支持软限制(预警)和硬限制(超支停用)
    • 实时成本归因 — 每一次调用都能追溯到具体的人、部门、项目、模型,精确到 token 级别

    统一身份统一入口

    • 每位员工一个 AI 身份(API Key),一个入口访问所有 AI 资源
    • AI员工(进行中)

    量化 AI 价值

    • 覆盖率 — 部门覆盖率、人员激活率、模型使用分布
    • 活跃度 — 日均调用量、人均 token 消耗、使用趋势曲线
    • 成本效能 — 部门成本排名、模型性价比、预算消耗进度、内外成本差异
    • 效能报告 — 周/月自动生成,支持按部门、项目、模型多维下钻

    安全审计

    • 敏感信息识别
    • 高风险 prompt 拦截
    • 管理员操作追踪

    资源集中管理

    • 模型纳管 — 多供应商统一接入,同模型多部署负载均衡,OpenAI/Anthropic 双格式兼容
    • Skill & MCP — 企业内部 AI 工具统一注册、审批、分发
    • 权限精细化 — 谁能用什么模型、用多少额度、什么时候过期,全部可配置

    更新日志

    最近版本汇总自 GitHub Releases,完整变更请以发布页为准。

    版本发布时间一句话更新
    0.1.262026-10-26新增配置项 LOG_DETAIL_CONTENT_VISIBLE_TO_ADMIN,可控制普通管理员能否查看 LLM/MCP 日志详情中的请求、返回和 Metadata,超级管理员始终可见
    0.1.252026-09-26修复保存 Anthropic 格式模型部署时卡住并返回 504 的问题
    0.1.242026-09-10修复模型发布授权:按部门范围下发,取消发布回收授权并使审批记录失效;新建用户按可见范围初始化 Key
    0.1.232026-09-04优化Hub端OpenAPI,更新为v2端点
    0.1.222026-08-25更新Hub端支持邮箱登录;导出任务历史自动清理变为可配置项;更新MCP日志滑块,复用env中llm配置项
    0.1.212026-08-13修复人员管理角色/状态筛选分页联动问题.丰富导出功能
    0.1.202026-08-04解决日志同步问题;修复时间显示;更新模型广场接入信息
    0.1.192026-07-23更新Hy3、Grok支持;改造静态资源托管;更新部分API批量功能;更新模型管理底座Litellm到1.93版本
    0.1.182026-07-22成本明细部门/项目新增 Token 列并支持行内穿透查看下属人员;效能总览、成本、预算及看板新增 Token 用量统计与人员 Top10 榜单
    0.1.172026-07-17统一 AI 效能部门/项目筛选并修复成本明细;日志及管理页增加模糊搜索,完善人员与 Key 联动;用户端接入说明补充 Workbuddy。
    0.1.162026-07-14新增企业版许可证管理和平台品牌自定义能力。
    0.1.152026-07-13修复部分bug。
    0.1.142026-07-07AI Policies 增加大模型审查。
    0.1.132026-07-03新增 AI Policies 安全审查:一键扫描 Skill,自动识别恶意指令、数据外传、权限过大等风险并生成报告。
    0.1.122026-07-01资源申请支持批量审批;Skill / MCP 新增作者信息,用户端显示使用量。
    0.1.112026-06-29优化日志修复codex /goal 等长Agent日志错配问题。
    0.1.92026-06-27新增小米 MiMo 模型接入和模型 Logo 选择;AI 身份限流更完善(总量 + 按模型限速)。
    0.1.82026-06-23支持 vLLM 的 Anthropic 格式接入。
    0.1.72026-06-23修复成本计算和日志统计的若干问题,账目更准。
    0.1.62026-06-16完善模型连通性测试。
    0.1.52026-06-10升级管理员看板与成本、效能、预算分析体验。
    0.1.42026-06-04修复若干问题,合入社区贡献。

    主要功能

    管理后台

    面向 IT 管理员和 AI 负责人,覆盖资源管理全流程。

    Dashboard — 今日调用、成本、待办一览模型纳管 — 供应商接入、多部署、连通性测试
    AI 身份 — Key 签发、预算分配、生命周期AI效能 — 成本分析、覆盖率、效能报告
    模块能力
    模型纳管供应商管理、凭证管理、模型注册、多部署负载均衡、路由策略、连通性测试
    AI 身份部门/项目/人员管理、Key 签发、预算额度、速率限制、模型白名单
    AI 市场Skill 发布上架、MCP Server 注册发现、资源申请审批
    AI 效能成本分析(内/外)、落地覆盖率、预算管控、效能报告
    安全管理员审计日志、操作追踪
    智能体中心智能体创建、配置、生命周期管理

    用户端 AI Hub

    面向全体员工,简洁直观,获取 AI 身份后即可使用。

    用户端

    • 查看 AI 身份,一键复制 Key 和接入点
    • 浏览模型广场,按场景选择模型 ID
    • 浏览 AI 市场,申请 Skill / MCP 使用权限
    • 查看本月用量和预算消耗

    快速开始

    环境要求

    • Docker 20.10+ & Docker Compose v2+
    • 4 核 8G 内存(最低)

    部署

    git clone https://github.com/beizhu-1209/AIHelms.git
    cd AIHelms
    cp .env.example .env
    # 编辑 .env 填入密钥
    docker compose up -d
    

    访问

    地址说明
    http://your-host用户端
    http://your-host/admin管理后台
    http://your-host/api/docsAPI 文档

    默认管理员:admin / 密码见 .env 中 SUPER_ADMIN_PASSWORD

    三步上手

    1. 管理后台 → 供应商管理 → 添加凭证
    2. 管理后台 → 模型管理 → 新建模型 → 关联凭证 → 发布
    3. 用户端 → 我的 AI 身份 → 复制 Key 和 Endpoint → 配置到客户端
    

    技术栈

    层级技术
    后端Python 3.11+, FastAPI, Gunicorn, Celery
    前端Vue 3.4+, TypeScript, Vite 5+, TailwindCSS
    数据库PostgreSQL 16+
    缓存Redis 7+
    部署Docker Compose, Nginx
    变量说明
    POSTGRES_PASSWORD数据库密码
    SECRET_KEYJWT 签名密钥
    SUPER_ADMIN_PASSWORD超级管理员初始密码
    WEB_PORTWeb 对外端口

    完整列表见 .env.example

    ./dev/setup              # 首次设置
    ./dev/start-docker-compose  # 启动中间件
    ./dev/start-api          # 启动后端(热重载)
    ./dev/start-web          # 启动前端(HMR)
    

    详见 开发与发布流程

    RoadMap

    AI 实验室

    功能一句话总结
    报告汇总 AI 效能、成本、预算等分析结果,形成面向管理汇报的报告视图。
    AI 健康集中查看 MCP 上游、模型部署、Docker 环境和效能数据更新状态。
    敏感信息识别识别 AI 交互内容中的敏感信息,支撑后续告警、审计和处置。
    A2A规划智能体之间的协作、调用关系和任务联动能力。
    上下文缓存缓存高频上下文和会话材料,减少重复输入并降低调用成本。
    策略管理高风险识别,包括电子围栏、prompt 注入等。
    文件处理对上传文件进行解析、切分、索引和预处理,供后续 AI 能力调用。

    Contributing

    1. Fork 本仓库
    2. 创建分支:git checkout -b feature/xxx
    3. 提交代码到dev分支:git commit -m "feat: 功能描述"
    4. 推送并创建 Pull Request

    详细开发规范见 开发与发布流程

    交流反馈

    License

    本项目采用 GPL-3.0 开源协议,底座应用 LiteLLM 社区版(MIT License)。

    如果您所在组织的政策不允许使用 GPL-3.0 许可的软件,或您希望规避 GPL-3.0 的开源义务,请发送邮件至 联系邮件 咨询商业授权。