OSS Radar
首页
AI 分类
推理与服务5
大模型推理服务 · 向量化 / 重排服务 · 网关与路由
训练与微调6
训练框架 · 参数高效微调 · 后训练 / RLHF
数据工程4
数据集托管 · 数据清洗与处理 · 合成数据
检索与 RAG9
向量数据库 · RAG 框架 · 检索增强引擎
Agent 与编排6
Agent 框架 · 编码 Agent · 电脑 / 浏览器 Agent
评估 · 实验 · MLOps8
模型评测 · Agent 评测 · 实验管理
多模态生成5
图像生成 · 视频生成 · 视觉语言模型
视觉与 3D5
检测 / 分割 · 3D 重建 · 3D 生成
模型工具链8
量化 · 剪枝与蒸馏 · 格式转换
科研与论文实现3
论文复现 · 时序预测 · 科学计算 / 生物医药
开发工具
开发与框架5构建与交付4底层与逆向3
系统工具
系统与文件7图像与影音工具5实用小工具4
效率工具
记录与整理3输入与阅读4
媒体与内容
播放与媒体库4内容处理3
网络工具
访问与代理3连接与传输4
游戏相关
开发与运行2游玩相关2
安全与隐私
攻防与审计3加密与隐私1
硬件与机器人
嵌入式与物联网5机器人与具身智能3
数据与金融
数据库与存储4金融与量化1
探索排行榜开发语言标签
/
周报
本周新增、涨得最快、发了什么版本
对比项目
两个项目并排看 star、维护状态与硬件
数据体检
收录量、完整度缺口、沉睡项目
提交仓库
推荐项目,附上你的使用经验
反馈与纠错
分类错了、介绍不准、链接失效
关于本站
数据来源与分类原则
登录
OSS Radar

按算法工程工作流分类的开源工具库。数据来自 GitHub 公开 API,收录 6,739 个仓库、129 个细分分类。 带 ✦ 的条目有人工撰写的专家点评。

数据最近同步于 2026/11/11 08:02:50 · 本项目仅做聚合与索引,软件版权归原作者所有

浏览

  • 全部仓库
  • AI 分类
  • 排行榜
  • 开发语言
  • 标签与关键词
  • 搜索

关于

  • 关于本站
  • 数据体检
  • 提交仓库
  • 反馈与纠错
  • 偏好设置
  • 我的收藏
  • 我的点评
© 2026 OSS Radar数据每小时级同步 · 内容由算法与人工共同维护
⌘K
「LLM API 网关」找到 40 个结果 · 11ms命中词:网关llmapigatewayproxyrouter只看有点评
L
litellm
BerriAI·Python

统一调用 100+ 家 LLM API 的 AI 网关,用 OpenAI 格式或原生格式接入,自带成本追踪、限流护栏、负载均衡和日志。

AI 网关+4
630650—
BerriAI/litellm · 24.6
N
new-api
QuantumNous·Go

自托管的 LLM 网关,统一兼容 OpenAI、Claude、Gemini 等接口,提供模型路由、访问控制、用量统计与成本核算,方便团队集中管理和分发大模型调用。

LLM 网关+4
517040—
QuantumNous/new-api · 24.58
O
one-api
songquanpeng·JavaScript

把 OpenAI、Claude、Gemini、通义千问等十几家主流大模型统一到一个 API 下,方便做密钥管理和二次分发,单文件部署开箱即用。

LLM API 网关+4
373980—
songquanpeng/one-api · 23.61
G
gateway
Portkey-AI·TypeScript

一个高性能 AI 网关,用统一 API 把请求路由到 1600+ 大模型,并内置 50+ 安全护栏,省去多模型接入和内容风控的重复开发。

AI 网关+4
133630—
Portkey-AI/gateway · 23.13
O
optillm
algorithmicsuperintelligence·Python

一个面向 LLM 的推理优化代理,通过 API 网关接入,自动套用思维链等推理策略来提升模型回答质量并降低调用成本。

推理优化+4
43400—
algorithmicsuperintelligence/optillm · 16.61
A
agent-router
theagentrouter·Go

基于 Envoy Gateway 构建的生成式 AI 统一接入网关,把各家 LLM 和推理服务的调用收敛到一套路由与鉴权入口,方便在 Kubernetes 上统一管理。

AI 网关+4
23810—
theagentrouter/agent-router · 16.54
A
APIPark
APIParkLab·TypeScript

云原生高性能 AI 与 API 网关,把各家大模型 API 统一成一套请求和返回格式,顺带做申请审批、调用统计、负载均衡和多模型灾备,一键部署开箱即用。

AI网关+4
18270—
APIParkLab/APIPark · 16.4
O
OrcaRouter-Lite
Continuum-AI-Corp·Python

自托管的 LLM 路由网关,兼容 OpenAI 接口,支持自带密钥和多模型流式转发,帮你在本地统一接入各家大模型 API。

LLM 路由+4
17440—
Continuum-AI-Corp/OrcaRouter-Lite · 16.15
L
llmgateway
theopenco·TypeScript

统一 API 接入多家大模型服务商,集中路由、管理并分析 LLM 请求,省去逐个对接和维护密钥的麻烦。

LLM 网关+4
17360—
theopenco/llmgateway · 16.02
K
kong
Kong·Lua

云原生 API 网关,同时充当 LLM 与 AI 服务的统一入口,集中处理路由、鉴权、限流和可观测性。

API 网关+4
443760—
Kong/kong · 15.69
L
litellm-agent-control-plane
LiteLLM-Labs·Rust

统一接入 OpenCode、Claude、Cursor 等多家编码 Agent 的控制平面,用一个入口调度和路由不同 Agent,省去逐个对接的麻烦。

Agent 控制平面+4
13290—
LiteLLM-Labs/litellm-agent-control-plane · 15.37
C
casbin-gateway
apache·Go

统一接入 44 家模型厂商的 AI 网关,实时监控本机各编码代理的调用行为,并给 API 做 A–F 真实性评级,防止用错或被盗用。

AI 网关+4
6490—
apache/casbin-gateway · 15.26
N
nexus
Nexus-Router·Rust

面向 LLM 应用的统一网关,集中治理与保护各家大模型 API 调用,支持 MCP 协议接入。

LLM 网关+4
4380—
Nexus-Router/nexus · 15.05
R
respan-gateway
respanai·Rust

用 Rust 写的开源 LLM 网关,把 OpenAI、Anthropic、Gemini 等各家模型统一到一个接口,任意 SDK 和工具都能直接接入,省去多厂商适配的麻烦。

LLM 网关+4
6770—
respanai/respan-gateway · 14.94
Y
yolorouter
yolorouter·Go

自托管的 OpenAI 兼容 LLM 网关,统一接入多家模型供应商,支持故障转移、密钥轮换和内置管理后台,帮团队稳定调度模型请求。

LLM 网关+4
3180—
yolorouter/yolorouter · 14.78
U
uncensored-ai-api
routerhubSI

一个统一 API 网关,用一把密钥即可调用 Claude、GPT、Gemini、Grok、DeepSeek 等主流大模型,并提供无审查、去对齐变体,兼容 OpenAI 与 Anthropic 接口,按 token 计费。

API 网关+4
3640—
routerhubSI/uncensored-ai-api · 14.75
T
tyk
TykTechnologies·Go

开源 API 与 AI 网关,统一代理 REST、GraphQL、TCP、gRPC 和 MCP 流量,帮你在微服务和 LLM 调用前做路由、鉴权与限流。

API 网关+4
108800—
TykTechnologies/tyk · 14.61
B
bella-openapi
LianjiaTech·Java

一个聚合多家大模型与云厂商的 AI 能力网关,除聊天补全外还统一提供文本向量化、语音识别合成、文生图等接口,并内置计费、限流和资源管理。

AI 网关+4
2410—
LianjiaTech/bella-openapi · 14.61
U
uncensored-ai-api
7API

一个统一 API 网关,用一把密钥调用 Claude、GPT、Gemini、Grok、DeepSeek 等多家模型,并提供无审查、去对齐变体,兼容 OpenAI 与 Anthropic 接口,按 token 计费。

API 网关+4
2350—
7API/uncensored-ai-api · 14.41
O
opencodex
lidge-jun·TypeScript

把任意 LLM(Claude、Gemini、Grok、DeepSeek、Ollama 等)统一代理给 Codex CLI、App、SDK 和 Claude Code 使用,省去为每个模型单独适配的麻烦。

LLM 代理+4
183610—
lidge-jun/opencodex · 14.2
A
aisix
api7·Rust

用 Rust 写的开源 AI 网关,把 OpenAI、Anthropic、Gemini、Bedrock 等模型统一到一个 OpenAI 兼容接口,顺带做路由、护栏、缓存、限流和可观测性。

AI 网关+4
2180—
api7/aisix · 14.17
C
ccproxy
starbaser·Python

给 Claude Code 加钩子的本地代理,能拦截并改写请求与响应,支持自定义模型名和按逻辑智能路由模型。

Claude Code+4
3570—
starbaser/ccproxy · 13.98
H
higress
higress-group·Go

基于 Envoy 的云原生 AI 网关,统一代理和路由大模型 API 与微服务流量,支持 AI 原生插件扩展。

AI 网关+4
97480—
higress-group/higress · 11.15
B
bifrost
maximhq·Go

高性能 AI 网关,用一套 OpenAI 兼容 API 统一接入上万模型,内置故障转移、负载均衡、语义缓存、虚拟密钥与预算管控,额外延迟低于 200µs。

AI 网关+4
94820—
maximhq/bifrost · 11.05
G
gpt-load
tbphp·Go

自托管的 AI 网关,把多个渠道的 API 密钥和订阅账号统一接入,提供调度、故障转移、请求日志与用量统计,适合集中管理 LLM 调用。

AI 网关+4
72070—
tbphp/gpt-load · 10.89
C
coai
coaidev·TypeScript

企业级多租户 LLM 网关,统一接入 200+ 模型和 35+ 供应商,带负载均衡、计费订阅和成本管理,适合团队统一管理 AI 调用。

LLM 网关+4
93460—
coaidev/coai · 10.78
M
mcp-context-forge
IBM·Python

统一接入 MCP、A2A 和 REST/gRPC 的 AI 网关与注册中心,集中做服务发现、鉴权和调用管控,优化 Agent 与工具调用。

AI 网关+4
47960—
IBM/mcp-context-forge · 10.59
O
octopus
bestruirui·TypeScript

把 Claude、Codex 等多家 LLM 的 API 统一成一个入口的聚合网关,方便个人集中管理和切换不同模型服务。

LLM 网关+3
27460—
bestruirui/octopus · 10.52
A
archestra
archestra-ai·TypeScript

企业级 AI 平台,内置护栏、MCP 注册中心、网关和编排器,帮团队安全统一地接入和管理各类大模型与 Agent。

企业AI平台+4
44370—
archestra-ai/archestra · 10.24
G
GoModel
ENTERPILOT·Go

用 Go 写的 AI 网关,把 OpenAI、Anthropic、Gemini、Ollama 等多家模型统一成兼容接口,自带可观测性、限流防护、成本追踪、智能路由和故障转移,可作为 LiteLLM 的替代方案。

AI 网关+4
13150—
ENTERPILOT/GoModel · 9.84
C
CliRelay
kittors·Go

自托管的 AI 网关,把 OpenAI、Claude、Gemini、Codex 等编码 CLI 统一到一个兼容端点,并提供多租户控制台、请求日志和费用配额管理。

AI 网关+4
10540—
kittors/CliRelay · 9.79
O
otari
mozilla-ai·Python

自托管的开源 AI 网关,把 40 多家模型提供商统一到一个接口,并自带虚拟密钥、预算控制和用量统计,省去多平台对接与成本管理麻烦。

AI 网关+4
9000—
mozilla-ai/otari · 9.72
T
ThinkWatch
ThinkWatchProject·Rust

自托管的 AI API 与 MCP 网关,给企业统一管控大模型调用:SSO/RBAC、按用户身份鉴权、PII 脱敏、工具调用防护、限流预算与成本审计。

AI 网关+4
8170—
ThinkWatchProject/ThinkWatch · 9.66
T
ThinkWatch-Lite
ThinkWatchProject·TypeScript

跨平台本地 AI 网关,让 Claude Code、Codex 等客户端无需改配置即可切换上游,隐藏真实 API Key,拦截恶意工具调用并追踪每次请求。

AI 网关+4
10060—
ThinkWatchProject/ThinkWatch-Lite · 9.61
A
antirion
eliasbiondo·Rust

用 Rust 写的开源 AI 网关,单二进制自带控制台,统一路由、鉴权、预算和观测 OpenAI、Anthropic、Gemini、Bedrock 等各家 LLM 调用。

AI 网关+4
4560—
eliasbiondo/antirion · 9.5
M
Misceo
MaySudo

本地部署的 Anthropic 兼容 AI 网关,按「先便宜后贵」路由模型,带质量门控、安全模型切换和内置成本看板,帮你在多模型调用中省钱又不掉质量。

AI 网关+4
8490—
MaySudo/Misceo · 9.49
C
ccLoad
caidaoli·Go

自托管的 AI API 网关,把 Claude Code、Codex、Gemini 的 API Key 和订阅账号汇到一个端点,统一做故障转移、协议转换和成本统计。

API 网关+4
4370—
caidaoli/ccLoad · 9.4
S
smg
smg-project·Rust

用 Rust 写的引擎无关 LLM 网关,统一兼容 OpenAI 与 Anthropic 接口,把 vLLM、SGLang、Gemini 等后端接到同一入口,并支持 KV 缓存感知路由和 gRPC 流水线。

LLM 网关+4
7090—
smg-project/smg · 9.34
S
sagify
Kenza-AI·Python

用统一接口调用 Anthropic、Cohere 等多家大模型,省去分别对接各家 API 的麻烦,适合快速搭建 LLM 应用。

大模型网关+3
4430—
Kenza-AI/sagify · 9.32
1
1flowbase
taichuy·Rust

面向智能体应用的一站式后端底座,把 AI 网关、数据建模和 CRUD API 串起来,省去自己拼装 LLM 路由与可观测性。

AI 网关+4
2920—
taichuy/1flowbase · 9.17

发布说明里提到「LLM API 网关」

来自 6 个版本
  • akiralereal/iptvv4.71.02026-11-10

    …链接重新发给对方,重置后记录清空重新记。看到的全是内网地址时,多半是经过了反向代理或 Docker 网关,卡片上会提示要在反代上转发 X-Forwarded-For;直连公网时不认这个请求头,免得被人伪造。不显示地区,陌生 IP 请自己查归属地。记录从升级后开始记,存在 users.json 里,导出配置备份时会一并带走。 - 源管理标出

  • Mouseww/anything-analyzerv3.7.12026-11-10

    …nything Analyzer v3.7.1 新增 - 内置默认网关:无限星河AI — 设置 → LLM 的 Provider 下拉新增首项“无限星河AI(内置默认网关)”,全新配置默认选中,自动填入 OpenAI 兼容地址 https://infistar.cc/v1 ,只需填写 API Key 与模型 ID 即可使用。 - 注册入口

  • spacering-net/codegv0.42.22026-11-10

    …e 5.2, and a saved Fable 5.1 selection through an API gateway switches to Fable 5.2 automatically instead of falling back to the default model. - Codex is updated to adap

  • JiangNanGenius/floe-agentandroid/v0.1.0-alpha.622026-11-08

    …、签名及摘要检查。 - 自更新与 Office/CAD 下载保留所选镜像。GitHub 浏览下载遇到网关/连接故障时可使用经验证的官方同资产地址,VNC 输入与画面接收分别串行处理。 - 13项本批组件检查、Full/Play Kotlin、58项封装及签名/16KiB检查通过;沿用未改的37项更新和4项BSD宿主检查、native23实

  • lycohana/BiliSumv1.21.32026-11-07

    … 一次性定时:在首页右侧菜单设置本次执行时间,支持分 P 和合集批量,普通开始按钮仍立即执行。 - LLM 失败续跑:保存转写与分段,修正配置后仅重跑 LLM,沿用同一任务,支持重启恢复。 - 自定义摘要提示词预设、Web / Docker Markdown 与图片 ZIP 下载,以及桌面内置 uv 安装。 - 修复迁移预览权限错误、长路

  • farion1231/cc-switchv4.0.272026-11-07

    …aude Desktop 的 Mistral AI 预设不再隐藏。Mistral Vibe 套餐和 API 共用额度,「获取 API Key」改为打开 Vibe CLI 的密钥页,免费、订阅和按量付费都能用;添加供应商时搜「Vibe」也能找到它。新增 Genesis([ 9269](https://github.com/farion123