OSS Radar
首页
AI 分类
推理与服务5
大模型推理服务 · 向量化 / 重排服务 · 网关与路由
训练与微调6
训练框架 · 参数高效微调 · 后训练 / RLHF
数据工程4
数据集托管 · 数据清洗与处理 · 合成数据
检索与 RAG9
向量数据库 · RAG 框架 · 检索增强引擎
Agent 与编排6
Agent 框架 · 编码 Agent · 电脑 / 浏览器 Agent
评估 · 实验 · MLOps8
模型评测 · Agent 评测 · 实验管理
多模态生成5
图像生成 · 视频生成 · 视觉语言模型
视觉与 3D5
检测 / 分割 · 3D 重建 · 3D 生成
模型工具链8
量化 · 剪枝与蒸馏 · 格式转换
科研与论文实现3
论文复现 · 时序预测 · 科学计算 / 生物医药
开发工具
开发与框架5构建与交付4底层与逆向3
系统工具
系统与文件7图像与影音工具5实用小工具4
效率工具
记录与整理3输入与阅读4
媒体与内容
播放与媒体库4内容处理3
网络工具
访问与代理3连接与传输4
游戏相关
开发与运行2游玩相关2
安全与隐私
攻防与审计3加密与隐私1
硬件与机器人
嵌入式与物联网5机器人与具身智能3
数据与金融
数据库与存储4金融与量化1
探索排行榜开发语言标签
/
周报
本周新增、涨得最快、发了什么版本
对比项目
两个项目并排看 star、维护状态与硬件
数据体检
收录量、完整度缺口、沉睡项目
提交仓库
推荐项目,附上你的使用经验
反馈与纠错
分类错了、介绍不准、链接失效
关于本站
数据来源与分类原则
登录
OSS Radar

按算法工程工作流分类的开源工具库。数据来自 GitHub 公开 API,收录 6,740 个仓库、129 个细分分类。 带 ✦ 的条目有人工撰写的专家点评。

数据最近同步于 2026/11/11 14:07:13 · 本项目仅做聚合与索引,软件版权归原作者所有

浏览

  • 全部仓库
  • AI 分类
  • 排行榜
  • 开发语言
  • 标签与关键词
  • 搜索

关于

  • 关于本站
  • 数据体检
  • 提交仓库
  • 反馈与纠错
  • 偏好设置
  • 我的收藏
  • 我的点评
© 2026 OSS Radar数据每小时级同步 · 内容由算法与人工共同维护
⌘K
「LLM 网关」找到 41 个结果 · 18ms命中词:网关llmgatewayproxyroutergateway* proxy*只看有点评
L
litellm
BerriAI·Python

统一调用 100+ 家 LLM API 的 AI 网关,用 OpenAI 格式或原生格式接入,自带成本追踪、限流护栏、负载均衡和日志。

AI 网关+4
630950—
BerriAI/litellm · 21.49
9
9router
decolua·JavaScript

把 Claude Code、Cursor、Copilot 等编程助手接到 40+ 家免费模型供应商的 AI 网关,支持自动故障切换和 RTK 省 token,避免额度耗尽。

AI 网关+4
322590—
decolua/9router · 20.76
G
gateway
Portkey-AI·TypeScript

一个高性能 AI 网关,用统一 API 把请求路由到 1600+ 大模型,并内置 50+ 安全护栏,省去多模型接入和内容风控的重复开发。

AI 网关+4
133650—
Portkey-AI/gateway · 19.93
S
semantic-router
vllm-project·Go

面向 LLM 推理的可编程语义路由层,按请求语义把流量分发到不同模型和算力,并内置护栏与 K8s 集成。

语义路由+4
64510—
vllm-project/semantic-router · 19.5
A
agentgateway
agentgateway·Rust

面向 AI Agent 和 MCP 服务器的下一代代理网关,用 Rust 编写,把 Agent 与模型、工具之间的流量统一接入、路由和管控。

AI 网关+4
61160—
agentgateway/agentgateway · 19.36
K
kong
Kong·Lua

云原生 API 网关,同时充当 LLM 与 AI 服务的统一入口,集中处理路由、鉴权、限流和可观测性。

API 网关+4
443760—
Kong/kong · 13.39
N
new-api
QuantumNous·Go

自托管的 LLM 网关,统一兼容 OpenAI、Claude、Gemini 等接口,提供模型路由、访问控制、用量统计与成本核算,方便团队集中管理和分发大模型调用。

LLM 网关+4
517470—
QuantumNous/new-api · 13.29
H
hermes-agent
NousResearch·Python

一个可随使用不断成长的 AI Agent 框架,支持接入 Claude、ChatGPT 等多种大模型,用于搭建和编排自主智能体。

Agent 框架+3
2625950—
NousResearch/hermes-agent · 13.1
O
OmniRoute
cheaper-inference·TypeScript

统一接入 375 家模型供应商、1400+ 模型的 MIT 协议 AI 网关,配额感知自动降级,并用压缩省下 15-95% token,兼容 Claude Code、Cursor 等编码工具。

AI 网关+4
864050—
cheaper-inference/OmniRoute · 13.04
A
apisix
apache·Lua

云原生 API 网关,基于 LuaJIT 提供高性能路由、负载均衡和 Kubernetes Ingress,并支持 AI 网关场景,适合统一管理微服务与 AI 流量。

API 网关+4
173120—
apache/apisix · 12.66
T
tyk
TykTechnologies·Go

开源 API 与 AI 网关,统一代理 REST、GraphQL、TCP、gRPC 和 MCP 流量,帮你在微服务和 LLM 调用前做路由、鉴权与限流。

API 网关+4
108810—
TykTechnologies/tyk · 12.63
O
opencodex
lidge-jun·TypeScript

把任意 LLM(Claude、Gemini、Grok、DeepSeek、Ollama 等)统一代理给 Codex CLI、App、SDK 和 Claude Code 使用,省去为每个模型单独适配的麻烦。

LLM 代理+4
183800—
lidge-jun/opencodex · 12.46
O
one-api
songquanpeng·JavaScript

把 OpenAI、Claude、Gemini、通义千问等十几家主流大模型统一到一个 API 下,方便做密钥管理和二次分发,单文件部署开箱即用。

LLM API 网关+4
374020—
songquanpeng/one-api · 12.43
B
bifrost
maximhq·Go

高性能 AI 网关,用一套 OpenAI 兼容 API 统一接入上万模型,内置故障转移、负载均衡、语义缓存、虚拟密钥与预算管控,额外延迟低于 200µs。

AI 网关+4
94960—
maximhq/bifrost · 12.38
H
higress
higress-group·Go

基于 Envoy 的云原生 AI 网关,统一代理和路由大模型 API 与微服务流量,支持 AI 原生插件扩展。

AI 网关+4
97490—
higress-group/higress · 12.35
C
casdoor
casdoor·Go

开源的身份与访问管理(IAM)系统,带 Web 界面,支持 OAuth、OIDC、SAML、LDAP 等协议,同时可作为 LLM MCP 与 Agent 网关统一管理认证授权。

身份认证+4
148270—
casdoor/casdoor · 12.25
P
plano
katanemo·Rust

面向智能体应用的 AI 原生代理服务器和数据平面,提供 LLM 智能路由、可观测性、编排与护栏,让开发者专注核心逻辑。

LLM 网关+4
71140—
katanemo/plano · 12.24
G
gpt-load
tbphp·Go

自托管的 AI 网关,把多个渠道的 API 密钥和订阅账号统一接入,提供调度、故障转移、请求日志与用量统计,适合集中管理 LLM 调用。

AI 网关+4
72080—
tbphp/gpt-load · 12.16
C
coai
coaidev·TypeScript

企业级多租户 LLM 网关,统一接入 200+ 模型和 35+ 供应商,带负载均衡、计费订阅和成本管理,适合团队统一管理 AI 调用。

LLM 网关+4
93460—
coaidev/coai · 12.06
L
LocalAI
mudler·Go

开源本地 AI 推理引擎,无需 GPU 即可在任意硬件上跑 LLM、视觉、语音和图像生成模型,提供兼容 OpenAI 的 API。

推理引擎+4
503120—
mudler/LocalAI · 12.05
M
magpie
yetone·Go

在 macOS 菜单栏里统一管理各家大模型的接入,让 Codex 跑在 DeepSeek 上、Claude Code 跑在 Kimi 上,省去逐个配置的麻烦。

模型路由+4
344190—
yetone/magpie · 12
A
astron-agent
iflytek·Java

科大讯飞出品的商用级智能体工作流平台,用低代码方式编排多智能体与 MCP 工具链,帮企业快速搭建可落地的 SuperAgent 应用。

智能体工作流+4
89260—
iflytek/astron-agent · 11.67
L
langwatch
langwatch·TypeScript

面向 AI 平台团队的开源 Agent 可观测与评测平台,能追踪、测试、路由并治理公司内每个 Agent 和编码助手。

Agent 可观测+4
50250—
langwatch/langwatch · 11.42
N
nasiko
Nasiko-Labs·Rust

用 Rust 写的 AI Agent 开放运行时,统一托管多智能体、MCP 网关和权限管控,省去自己搭调度与安全层的麻烦。

Agent 运行时+4
119670—
Nasiko-Labs/nasiko · 11.41
H
helicone
Helicone·TypeScript

一行代码接入的 LLM 可观测性平台,能监控大模型调用、追踪成本与延迟,并支持评估和实验对比,方便排查线上问题。

LLM可观测性+4
62770—
Helicone/helicone · 11.18
D
dsh-our-free-model
Ebony-Vinyl·JavaScript

给 dsh 装个插件就能免登录、免 API Key 直接用 DeepSeek V4.1 Flash、Kimi K3 等前沿大模型,完全免费且不限量。

免费大模型+4
694870—
Ebony-Vinyl/dsh-our-free-model · 11.16
D
deer-flow
bytedance·Python

开源的长时程 SuperAgent 运行框架,借助沙箱、记忆、工具、技能、子代理和消息网关,自动完成从研究、编码到内容创作的分钟级到小时级复杂任务。

Agent 框架+4
852450—
bytedance/deer-flow · 11.07
R
RWKV-Runner
josStorer·TypeScript

8MB 的 RWKV 模型管理与启动工具,全自动部署推理,并提供兼容 OpenAI API 的接口,方便直接接入现有客户端。

RWKV+4
65010—
josStorer/RWKV-Runner · 11.03
X
xiaozhi-esp32-server
xinnan-tech·JavaScript

为小智 ESP32 语音助手提供后端服务,快速搭建设备控制服务器,集成 Dify 与 MCP 能力。

ESP32+4
112510—
xinnan-tech/xiaozhi-esp32-server · 10.93
S
skyvern
Skyvern-AI·Python

用大模型驱动浏览器自动完成网页操作流程,无需写死选择器,适合抓取、填表等重复性网页任务。

浏览器自动化+4
233780—
Skyvern-AI/skyvern · 10.8
O
openfang
RightNow-AI·Rust

用 Rust 写的开源 Agent 操作系统,为 AI Agent 提供统一的运行与编排环境,支持 MCP 协议和 LLM 接入。

Agent 操作系统+4
182470—
RightNow-AI/openfang · 10.78
S
skywalking
apache·Java

分布式系统的应用性能监控平台,支持链路追踪、指标采集和日志分析,帮你在微服务架构下快速定位性能瓶颈。

应用性能监控+4
250020—
apache/skywalking · 10.77
P
pomerium
pomerium·Go

基于身份和上下文的零信任访问代理,用统一身份认证替代传统 VPN,按用户身份和设备状态动态控制内网应用访问。

零信任+4
51000—
pomerium/pomerium · 10.68
L
LangBot
langbot-app·Python

生产级多平台智能机器人开发平台,把 Agent、知识库和插件系统统一编排,一套代码接入 Discord、Slack、微信、飞书、钉钉等主流 IM,并对接 GPT、DeepSeek、Dify、Coze 等模型与工作流。

智能机器人+4
189080—
langbot-app/LangBot · 10.6
P
plandex
plandex-ai·Go

开源 AI 编码代理,专为大型项目和真实开发任务设计,能在命令行里理解代码库并自动完成多文件改动。

AI 编码代理+4
159060—
plandex-ai/plandex · 10.55
T
thanos
thanos-io·Go

给 Prometheus 加上跨集群高可用和长期存储能力,把多个 Prometheus 实例的数据聚合成全局可查询的指标视图。

Prometheus+4
142750—
thanos-io/thanos · 10.5
L
llama-swap
mostlygeek·Go

本地大模型推理服务的模型热切换代理,按需自动加载和卸载不同模型,让单个服务端同时对外提供多个 LLM,省去手动重启。

模型热切换+4
62340—
mostlygeek/llama-swap · 10.23
Q
QuantDinger
OpenByteInc·Python

开源自托管的智能体交易操作系统,把 AI 研究、Python 策略回测、因子挖掘、多资产模拟与实盘执行、风控和监控整合进一套可审计的技术栈。

智能体交易+4
136930—
OpenByteInc/QuantDinger · 10.21
K
kserve
kserve·Go

在 Kubernetes 上统一部署生成式与预测式 AI 模型的推理平台,支持多框架、可扩展的分布式推理服务。

推理平台+4
62150—
kserve/kserve · 10.03
W
WasmEdge
WasmEdge·C++

轻量高性能的 WebAssembly 运行时,面向云原生、边缘和去中心化场景,支撑无服务器函数、微服务、智能合约和 IoT 设备。

WebAssembly 运行时+4
108550—
WasmEdge/WasmEdge · 9.45

发布说明里提到「LLM 网关」

来自 6 个版本
  • akiralereal/iptvv4.71.02026-11-10

    …链接重新发给对方,重置后记录清空重新记。看到的全是内网地址时,多半是经过了反向代理或 Docker 网关,卡片上会提示要在反代上转发 X-Forwarded-For;直连公网时不认这个请求头,免得被人伪造。不显示地区,陌生 IP 请自己查归属地。记录从升级后开始记,存在 users.json 里,导出配置备份时会一并带走。 - 源管理标出

  • Mouseww/anything-analyzerv3.7.12026-11-10

    …nything Analyzer v3.7.1 新增 - 内置默认网关:无限星河AI — 设置 → LLM 的 Provider 下拉新增首项“无限星河AI(内置默认网关)”,全新配置默认选中,自动填入 OpenAI 兼容地址 https://infistar.cc/v1 ,只需填写 API Key 与模型 ID 即可使用。 - 注册入口

  • spacering-net/codegv0.42.22026-11-10

    ….321,适配器更新至 0.102.0 ,Fable 模型升级为 Fable 5.2,通过 API 网关使用时,已保存的 Fable 5.1 选择会自动切换到 Fable 5.2,不再回落到默认模型。 - Codex 适配器更新至 2.6.0(Codex 0.166.0) ,异步提问会显示为答题卡片,会话中和历史记录里都能正确展示。 -

  • JiangNanGenius/floe-agentandroid/v0.1.0-alpha.622026-11-08

    …、签名及摘要检查。 - 自更新与 Office/CAD 下载保留所选镜像。GitHub 浏览下载遇到网关/连接故障时可使用经验证的官方同资产地址,VNC 输入与画面接收分别串行处理。 - 13项本批组件检查、Full/Play Kotlin、58项封装及签名/16KiB检查通过;沿用未改的37项更新和4项BSD宿主检查、native23实

  • lycohana/BiliSumv1.21.32026-11-07

    … 一次性定时:在首页右侧菜单设置本次执行时间,支持分 P 和合集批量,普通开始按钮仍立即执行。 - LLM 失败续跑:保存转写与分段,修正配置后仅重跑 LLM,沿用同一任务,支持重启恢复。 - 自定义摘要提示词预设、Web / Docker Markdown 与图片 ZIP 下载,以及桌面内置 uv 安装。 - 修复迁移预览权限错误、长路

  • farion1231/cc-switchv4.0.272026-11-07

    …//github.com/farion1231/cc-switch/issues/5747))。有的网关在 /v1 和 /v1/ 之间互相重定向,现在测试收到重定向就算连得上。 - 打开对话框时窗口拖不动 ([ 9140](https://github.com/farion1231/cc-switch/pull/9140))。现在对话框打