网关与路由

多模型聚合、协议转换、限流与回退。

traefik
traefik·Go

云原生反向代理和负载均衡器,自动发现 Docker、Kubernetes 等服务并配置路由,内置 Let's Encrypt 证书管理,适合做微服务入口网关。

反向代理+4网关与路由
65503+186.3kv3.7.172026-11-09 15:08 UTC
litellm
BerriAI·Python

统一调用 100+ 家 LLM API 的 AI 网关,用 OpenAI 格式或原生格式接入,自带成本追踪、限流护栏、负载均衡和日志。

AI 网关+4网关与路由
63005+15313kv1.108.32026-11-10 05:17 UTC
new-api
QuantumNous·Go

自托管的 LLM 网关,统一兼容 OpenAI、Claude、Gemini 等接口,提供模型路由、访问控制、用量统计与成本核算,方便团队集中管理和分发大模型调用。

LLM 网关+4网关与路由
51660+14713kv1.0.0-rc.492026-11-09 13:41 UTC
kong
Kong·Lua

云原生 API 网关,同时充当 LLM 与 AI 服务的统一入口,集中处理路由、鉴权、限流和可观测性。

API 网关+4网关与路由
44370+45.2k3.9.42026-10-19 02:45 UTC
one-api
songquanpeng·JavaScript

把 OpenAI、Claude、Gemini、通义千问等十几家主流大模型统一到一个 API 下,方便做密钥管理和二次分发,单文件部署开箱即用。

LLM API 网关+4网关与路由
37380+336.9kv0.6.102026-01-09 03:26 UTC
pangolin
fosrl·TypeScript

自托管的零信任访问平台,集反向代理、SSO 和 NAT 穿透于一体,让用户安全连接内网应用、基础设施和 AI 服务。

零信任访问+4网关与路由
23518+1718251.26.02026-11-10 01:39 UTC
opencodex
lidge-jun·TypeScript

把任意 LLM(Claude、Gemini、Grok、DeepSeek、Ollama 等)统一代理给 Codex CLI、App、SDK 和 Claude Code 使用,省去为每个模型单独适配的麻烦。

LLM 代理+4网关与路由
18338+521.5kv2.99.02026-11-10 04:21 UTC
apisix
apache·Lua

云原生 API 网关,基于 LuaJIT 提供高性能路由、负载均衡和 Kubernetes Ingress,并支持 AI 网关场景,适合统一管理微服务与 AI 流量。

API 网关+4网关与路由
17307+53.0k3.19.02026-11-10 04:47 UTC
casdoor
casdoor·Go

开源的身份与访问管理(IAM)系统,带 Web 界面,支持 OAuth、OIDC、SAML、LDAP 等协议,同时可作为 LLM MCP 与 Agent 网关统一管理认证授权。

身份认证+4网关与路由
14795+161.9kv4.26.02026-11-10 05:09 UTC
gateway
Portkey-AI·TypeScript

一个高性能 AI 网关,用统一 API 把请求路由到 1600+ 大模型,并内置 50+ 安全护栏,省去多模型接入和内容风控的重复开发。

AI 网关+4网关与路由
13357+181.4kv1.15.22026-05-25 13:54 UTC
server
triton-inference-server·Python

面向云端和数据中心的高性能推理服务端,支持多种深度学习框架模型部署,并可在边缘设备上运行。

推理服务+4网关与路由
11135+41.9kv2.74.02026-11-10 01:43 UTC
tyk
TykTechnologies·Go

开源 API 与 AI 网关,统一代理 REST、GraphQL、TCP、gRPC 和 MCP 流量,帮你在微服务和 LLM 调用前做路由、鉴权与限流。

API 网关+4网关与路由
108791.2kv5.8.202026-11-09 20:48 UTC
higress
higress-group·Go

基于 Envoy 的云原生 AI 网关,统一代理和路由大模型 API 与微服务流量,支持 AI 原生插件扩展。

AI 网关+4网关与路由
9737+101.4kv2.2.52026-11-10 03:07 UTC
bifrost
maximhq·Go

高性能 AI 网关,用一套 OpenAI 兼容 API 统一接入上万模型,内置故障转移、负载均衡、语义缓存、虚拟密钥与预算管控,额外延迟低于 200µs。

AI 网关+4网关与路由
9465+401.6ktransports/v2.5.02026-11-10 05:14 UTC
coai
coaidev·TypeScript

企业级多租户 LLM 网关,统一接入 200+ 模型和 35+ 供应商,带负载均衡、计费订阅和成本管理,适合团队统一管理 AI 调用。

LLM 网关+4网关与路由
9344+11.2kv4.0.02026-03-12 10:00 UTC
gpt-load
tbphp·Go

自托管的 AI 网关,把多个渠道的 API 密钥和订阅账号统一接入,提供调度、故障转移、请求日志与用量统计,适合集中管理 LLM 调用。

AI 网关+4网关与路由
7204+5794v2.0.0-rc.632026-11-09 15:33 UTC
plano
katanemo·Rust

面向智能体应用的 AI 原生代理服务器和数据平面,提供 LLM 智能路由、可观测性、编排与护栏,让开发者专注核心逻辑。

LLM 网关+4网关与路由
7113+34950.4.392026-10-24 19:03 UTC
semantic-router
vllm-project·Go

面向 LLM 推理的可编程语义路由层,按请求语义把流量分发到不同模型和算力,并内置护栏与 K8s 集成。

语义路由+4网关与路由
6437+211.1kv0.4.02026-11-10 03:04 UTC
agentgateway
agentgateway·Rust

面向 AI Agent 和 MCP 服务器的下一代代理网关,用 Rust 编写,把 Agent 与模型、工具之间的流量统一接入、路由和管控。

AI 网关+4网关与路由
6079+561.1kv1.7.02026-11-10 00:18 UTC
router
weave-os·Go

面向 Agent 系统的模型路由网关,50ms 内把每个请求分派到最合适的模型,只改一个 endpoint 就能省下 40-70% 成本。

模型路由+4网关与路由
5618+3167hmm-model-v12026-11-10 04:43 UTC
pomerium
pomerium·Go

基于身份和上下文的零信任访问代理,用统一身份认证替代传统 VPN,按用户身份和设备状态动态控制内网应用访问。

零信任+4网关与路由
5100+6368v0.34.02026-11-10 02:21 UTC
mcp-context-forge
IBM·Python

统一接入 MCP、A2A 和 REST/gRPC 的 AI 网关与注册中心,集中做服务发现、鉴权和调用管控,优化 Agent 与工具调用。

AI 网关+4网关与路由
4782+13962v1.1.02026-11-09 18:12 UTC
RVG
arvin341az-glitch·Python

基于 Python 和 FastAPI 的多协议代理管理面板,支持 VLESS 等协议,可一键部署到 Railway,用来统一管理和分发代理节点。

代理管理面板+4网关与路由
4323+514k2026-09-13 16:14 UTC
octelium
octelium·Go

自托管的统一零信任安全访问平台,可同时充当远程访问 VPN、ZTNA、API/AI/MCP 网关和 PaaS,替代 ngrok 并统一管理内网与家庭实验室的基础设施访问。

零信任+4网关与路由
4172+12161v0.50.02026-11-09 16:39 UTC
OpenMQTTGateway
1technophile·C++

把 ESP8266/ESP32 变成 MQTT 网关,双向桥接 433/315/868MHz 射频、红外、BLE 蓝牙和 LoRa 设备,让米家传感器、温湿度计、体重秤等接入 Home Assistant。

MQTT网关+4IoT / 固件
4119+2912v1.9.02026-11-10 00:36 UTC
CPA-Manager-Plus
seakee·Go

自托管的 CPA/CLIProxyAPI 管理面板,监控 AI 网关的请求、用量、成本、配额、失败和账号健康,帮团队看清调用开销与稳定性。

AI 网关+4网关与路由
4050+9453v1.14.102026-11-10 05:20 UTC
goclaw
nextlevelbuilder·Go

用 Go 重写的 AI Agent 编排网关,支持多租户隔离、五层安全防护和原生并发,适合大规模部署 Agent 团队。

Agent 编排+4网关与路由
3710+21.1kv3.15.0-beta.2432026-11-09 07:19 UTC
ccs
kaitranntt·TypeScript

一个命令行工具,通过 OAuth 代理在 Claude 多账号、Gemini、Copilot 和 OpenRouter 的 300+ 模型之间快速切换,带可视化面板和远程代理支持,零配置即可上手。

多账号切换+4网关与路由
2897278v8.11.02026-11-04 20:10 UTC
octopus
bestruirui·TypeScript

把 Claude、Codex 等多家 LLM 的 API 统一成一个入口的聚合网关,方便个人集中管理和切换不同模型服务。

LLM 网关+3网关与路由
2745+3450v0.13.132026-10-23 00:51 UTC
krakend-ce
krakend·Go

用 Go 写的高性能无状态声明式 API 网关,把后端微服务统一收口,负责路由、聚合和协议转换,适合云原生场景做统一入口。

API 网关+4网关与路由
2703+2505v3.0.32026-11-02 14:51 UTC
agent-router
theagentrouter·Go

基于 Envoy Gateway 构建的生成式 AI 统一接入网关,把各家 LLM 和推理服务的调用收敛到一套路由与鉴权入口,方便在 Kubernetes 上统一管理。

AI 网关+4网关与路由
2377+10462v1.2.12026-11-09 16:05 UTC
APIPark
APIParkLab·TypeScript

云原生高性能 AI 与 API 网关,把各家大模型 API 统一成一套请求和返回格式,顺带做申请审批、调用统计、负载均衡和多模型灾备,一键部署开箱即用。

AI网关+4网关与路由
1826+1247v1.9.8-beta2026-10-27 02:40 UTC
OrcaRouter-Lite
Continuum-AI-Corp·Python

自托管的 LLM 路由网关,兼容 OpenAI 接口,支持自带密钥和多模型流式转发,帮你在本地统一接入各家大模型 API。

LLM 路由+4网关与路由
1744309v0.1.02026-10-08 07:08 UTC
llmgateway
theopenco·TypeScript

统一 API 接入多家大模型服务商,集中路由、管理并分析 LLM 请求,省去逐个对接和维护密钥的麻烦。

LLM 网关+4网关与路由
1733+3201v1.25.02026-11-10 05:40 UTC
TokenHub
astaxie·Go

企业级私有 AI 网关,统一接入和治理各家大模型,让每次调用都可控、可追踪、可归属。

AI 网关+4网关与路由
1429+2195v0.10.02026-11-06 02:36 UTC
litellm-agent-control-plane
LiteLLM-Labs·Rust

统一接入 OpenCode、Claude、Cursor 等多家编码 Agent 的控制平面,用一个入口调度和路由不同 Agent,省去逐个对接的麻烦。

Agent 控制平面+4网关与路由
1328+11502026-10-24 23:29 UTC
GoModel
ENTERPILOT·Go

用 Go 写的 AI 网关,把 OpenAI、Anthropic、Gemini、Ollama 等多家模型统一成兼容接口,自带可观测性、限流防护、成本追踪、智能路由和故障转移,可作为 LiteLLM 的替代方案。

AI 网关+4网关与路由
1314+5129v0.2.32026-11-09 23:45 UTC
rdpgw
bolkedebruin·Go

用 Go 实现的远程桌面网关,可在 Linux、BSD 或 Kubernetes 上部署,为 RDP 连接提供统一入口和转发。

远程桌面网关+3网关与路由
1140+1182v3.0.02026-11-07 12:37 UTC
CliRelay
kittors·Go

自托管的 AI 网关,把 OpenAI、Claude、Gemini、Codex 等编码 CLI 统一到一个兼容端点,并提供多租户控制台、请求日志和费用配额管理。

AI 网关+4网关与路由
1053+1135v0.6.02026-11-10 02:46 UTC
AIHelms
beizhu-1209·Python

企业级 AI 资源纳管平台,用统一网关接入 OpenAI、Claude、DeepSeek 等主流模型,做 Token 调度、成本归因和安全审计,帮企业管住 AI 开销、算清 ROI。

AI网关+4网关与路由
1033+11060.1.262026-11-04 02:05 UTC
ThinkWatch-Lite
ThinkWatchProject·TypeScript

跨平台本地 AI 网关,让 Claude Code、Codex 等客户端无需改配置即可切换上游,隐藏真实 API Key,拦截恶意工具调用并追踪每次请求。

AI 网关+4网关与路由
936+2038v2026.11.72026-11-09 14:41 UTC
AQBot
AQBot-Desktop·Rust

基于 Tauri 和 Rust 的轻量级跨平台 AI 桌面客户端,集对话、Agent 与 AI 网关于一体,统一接入和管理多个模型服务。

AI 客户端+4网关与路由
924+198v0.0.1652026-10-31 14:59 UTC
otari
mozilla-ai·Python

自托管的开源 AI 网关,把 40 多家模型提供商统一到一个接口,并自带虚拟密钥、预算控制和用量统计,省去多平台对接与成本管理麻烦。

AI 网关+4网关与路由
890+25121v0.41.02026-11-10 02:25 UTC
ThinkWatch
ThinkWatchProject·Rust

自托管的 AI API 与 MCP 网关,给企业统一管控大模型调用:SSO/RBAC、按用户身份鉴权、PII 脱敏、工具调用防护、限流预算与成本审计。

AI 网关+4网关与路由
817+323v3.11.02026-11-10 05:46 UTC
codegate
stacklok·Python

CodeGate: Security, Workspaces and Multiplexing for AI Agentic Frameworks

网关与路由
789922025-06-05 04:41 UTC
casbin-gateway
apache·Go

统一接入 44 家模型厂商的 AI 网关,实时监控本机各编码代理的调用行为,并给 API 做 A–F 真实性评级,防止用错或被盗用。

AI 网关+4网关与路由
649+273nightly2026-10-31 10:53 UTC
Lynkr
Fast-Editor·JavaScript

Lynkr 是一个命令行 HTTP 代理,把 Claude Code CLI 包装成统一入口,让编辑器、Agent 等工具更顺畅地调用代码生成能力。

HTTP 代理+4网关与路由
64076v9.6.02026-11-05 23:12 UTC
dario
askalf·JavaScript

把 Claude Code、Cursor、Cline、Aider、Codex CLI 等编码工具的请求统一到一个本地端点,按已付费的订阅席位优先路由,并记录用量账本。

AI 网关+4网关与路由
585+177v6.23.52026-11-10 04:42 UTC
AstrLink
Calcium-Ion·Go

本地 AI 网关,把各家订阅和 API 服务商统一到一个入口,靠智能路由分发请求,并在设备端做隐私保护。

AI 网关+4网关与路由
548+854v0.2.212026-11-08 01:33 UTC
antirion
eliasbiondo·Rust

用 Rust 写的开源 AI 网关,单二进制自带控制台,统一路由、鉴权、预算和观测 OpenAI、Anthropic、Gemini、Bedrock 等各家 LLM 调用。

AI 网关+4网关与路由
45517v0.1.12026-11-07 11:33 UTC
kiji-proxy
dataiku·Go

给 OpenAI 请求加一层隐私代理,自动检测并脱敏提示词中的 PII 等敏感信息,让调用大模型时不泄露用户数据。

隐私代理+4网关与路由
45156v1.6.82026-11-09 17:51 UTC
sagify
Kenza-AI·Python

用统一接口调用 Anthropic、Cohere 等多家大模型,省去分别对接各家 API 的麻烦,适合快速搭建 LLM 应用。

大模型网关+3网关与路由
443680.25.42026-02-11 10:56 UTC
aifw
securetron-gh·Python

自托管的 AI 网关与推理防火墙,为 Agent 提供身份与访问管理,拦截提示注入并审计调用,防止 LLM 被滥用。

推理防火墙+4网关与路由
4383Alberta2026-10-24 18:13 UTC
ccLoad
caidaoli·Go

自托管的 AI API 网关,把 Claude Code、Codex、Gemini 的 API Key 和订阅账号汇到一个端点,统一做故障转移、协议转换和成本统计。

API 网关+4网关与路由
437+379v4.13.19-beta.12026-11-10 03:14 UTC
HiRoute
higress-group·Rust

本地模型路由器,把日常 agent 任务分给便宜模型,难题留给最强模型,让 Codex 和 Claude Code 订阅更耐用、更省钱。

模型路由+4网关与路由
424+251v0.6.02026-11-10 04:56 UTC
chat
nuxt-ui-templates·Vue

基于 Nuxt UI 和 Vercel AI SDK 的聊天机器人模板,开箱即用,帮开发者快速搭建带流式对话的 AI 聊天界面。

聊天机器人+4网关与路由
3801122026-11-09 09:26 UTC
uncensored-ai-api
routerhubSI

一个统一 API 网关,用一把密钥即可调用 Claude、GPT、Gemini、Grok、DeepSeek 等主流大模型,并提供无审查、去对齐变体,兼容 OpenAI 与 Anthropic 接口,按 token 计费。

API 网关+4网关与路由
363342026-11-02 12:29 UTC
orbit
schmitech·Python

自托管的 AI 网关,把私有 RAG、自然语言查数据库和工具调用智能体统一到一个入口,方便在内部环境安全接入大模型。

AI 网关+4网关与路由
36160v2.21.22026-11-09 19:51 UTC
ccproxy
starbaser·Python

给 Claude Code 加钩子的本地代理,能拦截并改写请求与响应,支持自定义模型名和按逻辑智能路由模型。

Claude Code+4网关与路由
35734v1.2.02026-08-10 00:29 UTC
oh-my-cpa
WizisCool·Go

自托管的 CLIProxyAPI 控制台,统一管理 AI 供应商与客户端密钥,并实时观测流式调用遥测和模型成本快照。

AI 网关+4网关与路由
353+740v0.3.262026-11-09 22:50 UTC