OSS Radar
首页
AI 分类
推理与服务5
大模型推理服务 · 向量化 / 重排服务 · 网关与路由
训练与微调6
训练框架 · 参数高效微调 · 后训练 / RLHF
数据工程4
数据集托管 · 数据清洗与处理 · 合成数据
检索与 RAG9
向量数据库 · RAG 框架 · 检索增强引擎
Agent 与编排6
Agent 框架 · 编码 Agent · 电脑 / 浏览器 Agent
评估 · 实验 · MLOps8
模型评测 · Agent 评测 · 实验管理
多模态生成5
图像生成 · 视频生成 · 视觉语言模型
视觉与 3D5
检测 / 分割 · 3D 重建 · 3D 生成
模型工具链8
量化 · 剪枝与蒸馏 · 格式转换
科研与论文实现3
论文复现 · 时序预测 · 科学计算 / 生物医药
开发工具
开发与框架5构建与交付4底层与逆向3
系统工具
系统与文件7图像与影音工具5实用小工具4
效率工具
记录与整理3输入与阅读4
媒体与内容
播放与媒体库4内容处理3
网络工具
访问与代理3连接与传输4
游戏相关
开发与运行2游玩相关2
安全与隐私
攻防与审计3加密与隐私1
硬件与机器人
嵌入式与物联网5机器人与具身智能3
数据与金融
数据库与存储4金融与量化1
探索排行榜开发语言标签
/
周报
本周新增、涨得最快、发了什么版本
对比项目
两个项目并排看 star、维护状态与硬件
数据体检
收录量、完整度缺口、沉睡项目
提交仓库
推荐项目,附上你的使用经验
反馈与纠错
分类错了、介绍不准、链接失效
关于本站
数据来源与分类原则
登录
OSS Radar

按算法工程工作流分类的开源工具库。数据来自 GitHub 公开 API,收录 6,740 个仓库、129 个细分分类。 带 ✦ 的条目有人工撰写的专家点评。

数据最近同步于 2026/11/11 13:55:05 · 本项目仅做聚合与索引,软件版权归原作者所有

浏览

  • 全部仓库
  • AI 分类
  • 排行榜
  • 开发语言
  • 标签与关键词
  • 搜索

关于

  • 关于本站
  • 数据体检
  • 提交仓库
  • 反馈与纠错
  • 偏好设置
  • 我的收藏
  • 我的点评
© 2026 OSS Radar数据每小时级同步 · 内容由算法与人工共同维护
⌘K
「LLM API管理」找到 58 个结果 · 22ms命中词:管理llmapi只看有点评
O
one-api
songquanpeng·JavaScript

把 OpenAI、Claude、Gemini、通义千问等十几家主流大模型统一到一个 API 下,方便做密钥管理和二次分发,单文件部署开箱即用。

LLM API 网关+4
374020—
songquanpeng/one-api · 20.51
N
new-api
QuantumNous·Go

自托管的 LLM 网关,统一兼容 OpenAI、Claude、Gemini 等接口,提供模型路由、访问控制、用量统计与成本核算,方便团队集中管理和分发大模型调用。

LLM 网关+4
517230—
QuantumNous/new-api · 19.75
C
crawlee
apify·TypeScript

Node.js/TypeScript 网页抓取与浏览器自动化库,内置代理轮换和反封锁,兼容 Puppeteer、Playwright、Cheerio,可稳定采集数据供 AI、LLM、RAG 使用。

网页抓取+4
264150—
apify/crawlee · 18.8
A
apisix
apache·Lua

云原生 API 网关,基于 LuaJIT 提供高性能路由、负载均衡和 Kubernetes Ingress,并支持 AI 网关场景,适合统一管理微服务与 AI 流量。

API 网关+4
173110—
apache/apisix · 18.23
H
happy-llm
datawhalechina·Jupyter Notebook

从零开始手把手教你构建大模型的开源教程,覆盖预训练、微调、RAG 与 Agent 等关键环节,适合想系统入门 LLM 原理与实践的开发者。

大模型教程+4
348630—
datawhalechina/happy-llm · 17.81
L
llmgateway
theopenco·TypeScript

统一 API 接入多家大模型服务商,集中路由、管理并分析 LLM 请求,省去逐个对接和维护密钥的麻烦。

LLM 网关+4
17360—
theopenco/llmgateway · 13.92
A
APIPark
APIParkLab·TypeScript

云原生高性能 AI 与 API 网关,把各家大模型 API 统一成一套请求和返回格式,顺带做申请审批、调用统计、负载均衡和多模型灾备,一键部署开箱即用。

AI网关+4
18270—
APIParkLab/APIPark · 13.77
O
open-webui
open-webui·Svelte

自托管的大模型对话界面,兼容 Ollama、OpenAI API 等后端,内置 RAG 与 MCP 支持,让团队快速搭建私有 AI 聊天入口。

大模型界面+4
1583420—
open-webui/open-webui · 12.94
S
SillyTavern
SillyTavern·JavaScript

面向重度用户的大语言模型聊天前端,支持接入多种模型接口,提供角色卡、提示词管理和对话历史等进阶功能,适合深度定制 AI 角色扮演与对话体验。

聊天前端+4
355050—
SillyTavern/SillyTavern · 12.43
K
kong
Kong·Lua

云原生 API 网关,同时充当 LLM 与 AI 服务的统一入口,集中处理路由、鉴权、限流和可观测性。

API 网关+4
443780—
Kong/kong · 12.32
B
bella-openapi
LianjiaTech·Java

一个聚合多家大模型与云厂商的 AI 能力网关,除聊天补全外还统一提供文本向量化、语音识别合成、文生图等接口,并内置计费、限流和资源管理。

AI 网关+4
2410—
LianjiaTech/bella-openapi · 12.23
D
dsh-our-free-model
Ebony-Vinyl·JavaScript

给 dsh 装个插件就能免登录、免 API Key 直接用 DeepSeek V4.1 Flash、Kimi K3 等前沿大模型,完全免费且不限量。

免费大模型+4
690110—
Ebony-Vinyl/dsh-our-free-model · 12.22
P
paperclip
paperclipai·TypeScript

开源的多智能体工作管理应用,用于编排、调度和治理自主 AI Agent,支持 Claude 及技能扩展,让团队像管理同事一样管理 Agent。

智能体编排+4
1129900—
paperclipai/paperclip · 12.18
C
coai
coaidev·TypeScript

企业级多租户 LLM 网关,统一接入 200+ 模型和 35+ 供应商,带负载均衡、计费订阅和成本管理,适合团队统一管理 AI 调用。

LLM 网关+4
93460—
coaidev/coai · 12.14
D
dify
langgenius·Python

可视化搭建 Agentic 工作流和 RAG 流水线,支持多种大模型与工具,可云端或私有化部署,帮团队从原型直接走到生产。

Agent 编排+4
1609200—
langgenius/dify · 11.9
P
puppeteer
puppeteer·TypeScript

用 JavaScript 控制 Chrome 和 Firefox 的浏览器自动化库,可做网页爬取、端到端测试和生成页面截图 PDF。

浏览器自动化+4
958210—
puppeteer/puppeteer · 11.87
L
LibreChat
LibreChat-AI·TypeScript

可自托管的多用户 AI 聊天平台,聚合 OpenAI、Anthropic、Gemini、DeepSeek 等多家模型,支持模型切换、Agent、MCP、代码解释器和消息搜索。

自托管聊天平台+4
469510—
LibreChat-AI/LibreChat · 11.84
M
magpie
yetone·Go

在 macOS 菜单栏里统一管理各家大模型的接入,让 Codex 跑在 DeepSeek 上、Claude Code 跑在 Kimi 上,省去逐个配置的麻烦。

模型路由+4
340960—
yetone/magpie · 11.8
C
ChuanhuChatGPT
GaiZhenbiao·Python

给 ChatGPT 及 Llama、Claude、Gemini 等大模型套上清爽的网页界面,支持智能体、文件问答、联网搜索和模型微调,开箱即用。

大模型对话界面+4
152430—
GaiZhenbiao/ChuanhuChatGPT · 11.63
C
composio
ComposioHQ·TypeScript

提供 1000+ 工具包、工具检索、上下文管理、鉴权和沙箱工作台,帮开发者快速搭建能把意图变成行动的 AI Agent。

AI Agent+4
310190—
ComposioHQ/composio · 11.63
M
mlflow
mlflow·Python

开源 AI 工程平台,覆盖智能体、大模型和传统机器学习,帮团队调试、评估、监控和优化生产级 AI 应用,同时控制成本并管理模型与数据访问权限。

实验管理+4
287530—
mlflow/mlflow · 11.59
G
gateway
Portkey-AI·TypeScript

一个高性能 AI 网关,用统一 API 把请求路由到 1600+ 大模型,并内置 50+ 安全护栏,省去多模型接入和内容风控的重复开发。

AI 网关+4
133630—
Portkey-AI/gateway · 11.52
L
letta
letta-ai

给大模型智能体加上持久记忆和状态管理,让 Agent 能跨会话记住信息、持续学习并自我改进。

有状态智能体+4
254130—
letta-ai/letta · 11.52
P
prompt-optimizer
linshenkx·TypeScript

帮你把随手写的提示词改写成结构清晰、效果更好的版本,还能对比测试不同提示词的效果,适合经常和 LLM 打交道的人。

提示词优化+3
411330—
linshenkx/prompt-optimizer · 11.51
M
mem0
mem0ai·Python

为 AI Agent 提供可持久化的长期记忆层,让智能体和应用能跨会话记住上下文,开箱即用、面向生产环境。

长期记忆+4
687770—
mem0ai/mem0 · 11.48
J
jcode
1jehuang·Rust

用 Rust 写的高性能编码 Agent 运行框架,专为多 Agent 并行开发的重度工作流设计,在终端里跑 TUI 界面。

编码 Agent+4
216880—
1jehuang/jcode · 11.39
A
ai-engineering-from-scratch
rohitg00·Python

从零手写实现 AI 工程核心组件的实战课程,覆盖智能体、大模型、计算机视觉与深度学习,边学边构建可交付的项目。

AI工程+4
783490—
rohitg00/ai-engineering-from-scratch · 11.38
U
unsloth
unslothai·Python

本地跑和训练大模型、扩散模型的图形界面,支持 GGUF、MLX 及 Qwen、DeepSeek、Gemma、FLUX 等主流模型,省去命令行配置的麻烦。

本地推理+4
793050—
unslothai/unsloth · 11.24
R
ragflow
infiniflow·Go

面向智能体的 RAG 检索引擎,把文档解析、知识编译和上下文管理整合成一套基础设施,帮 Agent 稳定拿到高质量检索结果。

检索增强生成+4
939900—
infiniflow/ragflow · 11.24
J
JeecgBoot
jeecgboot·Java

企业级 AI 低代码平台,权限、多租户、工作流、报表、大屏、AI 知识库等通用能力开箱即用,AI 只需生成业务差异部分,一句话即可生成完整系统。

低代码平台+4
484220—
jeecgboot/JeecgBoot · 11.2
O
openfang
RightNow-AI·Rust

用 Rust 写的开源 Agent 操作系统,为 AI Agent 提供统一的运行与编排环境,支持 MCP 协议和 LLM 接入。

Agent 操作系统+4
182460—
RightNow-AI/openfang · 11.15
R
ray
ray-project·Python

分布式 AI 计算引擎,提供核心分布式运行时和一组 AI 库,用来加速机器学习负载、大模型推理与超参搜索。

分布式计算+4
442520—
ray-project/ray · 11.08
D
deer-flow
bytedance·Python

开源的长时程 SuperAgent 运行框架,借助沙箱、记忆、工具、技能、子代理和消息网关,自动完成从研究、编码到内容创作的分钟级到小时级复杂任务。

Agent 框架+4
852330—
bytedance/deer-flow · 11
Q
QwenPaw
agentscope-ai·TypeScript

开箱即用的个人 AI 助手,可本地或云端部署,接入多种聊天应用,并通过 MCP 与工具扩展能力。

个人助手+4
375950—
agentscope-ai/QwenPaw · 10.96
M
Memori
MemoriLabs·Python

给 AI Agent 提供持久化记忆的基础设施层,把对话和执行过程转成结构化状态,兼容任意 LLM,可直接接入现有数据设施,支持云上和本地部署。

Agent 记忆+4
175430—
MemoriLabs/Memori · 10.92
F
FastGPT
labring·TypeScript

基于大模型的知识库问答平台,开箱即用数据处理、RAG 检索和可视化 AI 工作流编排,无需复杂配置即可搭建复杂问答系统。

知识库问答+4
300220—
labring/FastGPT · 10.75
D
distilly
titanwings·Python

把某人的思维方式蒸馏成可复用的 Skill,供任意 Agent 或 Bot 直接加载使用,解决智能体难以复刻特定人物或同事行为模式的问题。

智能体技能+4
265040—
titanwings/distilly · 10.67
C
cc-haha
NanmiCoder·TypeScript

本地优先的 Claude Code / AI Agent 桌面工作台,支持多 Agent 协作、Git Worktree、代码 Diff 和技能市场,还能通过微信、飞书等远程访问。

AI Agent+4
153860—
NanmiCoder/cc-haha · 10.47
H
hypit
hypit-ai·TypeScript

用 AI 智能体复刻爆款视频的完整工作流:换脸、改文案、替换 B-roll,一条命令批量产出上百个变体。

视频复刻+4
291860—
hypit-ai/hypit · 10.46
S
signoz
SigNoz·TypeScript

基于 OpenTelemetry 的开源可观测性平台,把日志、指标和链路追踪集中到一处,提供 APM、分布式追踪和基础设施监控,帮团队快速定位线上问题。

可观测性+4
325790—
SigNoz/signoz · 10.46

发布说明里提到「LLM API管理」

来自 6 个版本
  • defilantech/LLMKubellmkube-0.10.172026-11-06

    A Helm chart for LLMKube - Kubernetes operator for GPU-accelerated LLM inference

  • defilantech/LLMKubellmkube-0.10.162026-11-02

    A Helm chart for LLMKube - Kubernetes operator for GPU-accelerated LLM inference

  • richardgill/llm-ui@llm-ui/[email protected]2024-06-01

    …ted dependencies \[[ 7f81520 ](https://github.com/llm-ui-kit/llm-ui/commit/7f81520aa8805ec991d37c37b8d4d8ebb959eaed)]: - @llm-ui/[email protected]

  • richardgill/llm-ui@llm-ui/[email protected]2024-06-01

    …ted dependencies \[[ 7f81520 ](https://github.com/llm-ui-kit/llm-ui/commit/7f81520aa8805ec991d37c37b8d4d8ebb959eaed)]: - @llm-ui/[email protected]

  • richardgill/llm-ui@llm-ui/[email protected]2024-06-01

    …ted dependencies \[[ 9360d30 ](https://github.com/llm-ui-kit/llm-ui/commit/9360d3049cfa669a133ef673fb5bb220c5823f09)]: - @llm-ui/[email protected]

  • richardgill/llm-ui@llm-ui/[email protected]2024-06-01

    Patch Changes - [ 261](https://github.com/llm-ui-kit/llm-ui/pull/261) [ 9360d30 ](https://github.com/llm-ui-kit/llm-ui/commit/9360d3049cfa669a133ef673fb5bb220c5823f09) Th