OSS Radar
首页
AI 分类
推理与服务5
大模型推理服务 · 向量化 / 重排服务 · 网关与路由
训练与微调6
训练框架 · 参数高效微调 · 后训练 / RLHF
数据工程4
数据集托管 · 数据清洗与处理 · 合成数据
检索与 RAG9
向量数据库 · RAG 框架 · 检索增强引擎
Agent 与编排6
Agent 框架 · 编码 Agent · 电脑 / 浏览器 Agent
评估 · 实验 · MLOps8
模型评测 · Agent 评测 · 实验管理
多模态生成5
图像生成 · 视频生成 · 视觉语言模型
视觉与 3D5
检测 / 分割 · 3D 重建 · 3D 生成
模型工具链8
量化 · 剪枝与蒸馏 · 格式转换
科研与论文实现3
论文复现 · 时序预测 · 科学计算 / 生物医药
开发工具
开发与框架5构建与交付4底层与逆向3
系统工具
系统与文件7图像与影音工具5实用小工具4
效率工具
记录与整理3输入与阅读4
媒体与内容
播放与媒体库4内容处理3
网络工具
访问与代理3连接与传输4
游戏相关
开发与运行2游玩相关2
安全与隐私
攻防与审计3加密与隐私1
硬件与机器人
嵌入式与物联网5机器人与具身智能3
数据与金融
数据库与存储4金融与量化1
探索排行榜开发语言标签
/
周报
本周新增、涨得最快、发了什么版本
对比项目
两个项目并排看 star、维护状态与硬件
数据体检
收录量、完整度缺口、沉睡项目
提交仓库
推荐项目,附上你的使用经验
反馈与纠错
分类错了、介绍不准、链接失效
关于本站
数据来源与分类原则
登录
OSS Radar

按算法工程工作流分类的开源工具库。数据来自 GitHub 公开 API,收录 6,740 个仓库、129 个细分分类。 带 ✦ 的条目有人工撰写的专家点评。

数据最近同步于 2026/11/11 14:07:13 · 本项目仅做聚合与索引,软件版权归原作者所有

浏览

  • 全部仓库
  • AI 分类
  • 排行榜
  • 开发语言
  • 标签与关键词
  • 搜索

关于

  • 关于本站
  • 数据体检
  • 提交仓库
  • 反馈与纠错
  • 偏好设置
  • 我的收藏
  • 我的点评
© 2026 OSS Radar数据每小时级同步 · 内容由算法与人工共同维护
⌘K
「LLM API管理」找到 50 个结果 · 22ms命中词:管理llmapi只看有点评
O
one-api
songquanpeng·JavaScript

把 OpenAI、Claude、Gemini、通义千问等十几家主流大模型统一到一个 API 下,方便做密钥管理和二次分发,单文件部署开箱即用。

LLM API 网关+4
374020—
songquanpeng/one-api · 20.42
N
new-api
QuantumNous·Go

自托管的 LLM 网关,统一兼容 OpenAI、Claude、Gemini 等接口,提供模型路由、访问控制、用量统计与成本核算,方便团队集中管理和分发大模型调用。

LLM 网关+4
517470—
QuantumNous/new-api · 19.65
C
crawlee
apify·TypeScript

Node.js/TypeScript 网页抓取与浏览器自动化库,内置代理轮换和反封锁,兼容 Puppeteer、Playwright、Cheerio,可稳定采集数据供 AI、LLM、RAG 使用。

网页抓取+4
264170—
apify/crawlee · 18.72
C
crawlee-python
apify·Python

Python 网页抓取与浏览器自动化库,支持 Playwright、BeautifulSoup 和原始 HTTP,自带代理轮换,方便为 AI、LLM、RAG 稳定采集网页数据。

网页抓取+4
96640—
apify/crawlee-python · 18.21
A
apisix
apache·Lua

云原生 API 网关,基于 LuaJIT 提供高性能路由、负载均衡和 Kubernetes Ingress,并支持 AI 网关场景,适合统一管理微服务与 AI 流量。

API 网关+4
173120—
apache/apisix · 18.14
H
happy-llm
datawhalechina·Jupyter Notebook

从零开始手把手教你构建大模型的开源教程,覆盖预训练、微调、RAG 与 Agent 等关键环节,适合想系统入门 LLM 原理与实践的开发者。

大模型教程+4
348690—
datawhalechina/happy-llm · 17.78
S
SillyTavern
SillyTavern·JavaScript

面向重度用户的大语言模型聊天前端,支持接入多种模型接口,提供角色卡、提示词管理和对话历史等进阶功能,适合深度定制 AI 角色扮演与对话体验。

聊天前端+4
355210—
SillyTavern/SillyTavern · 12.39
K
kong
Kong·Lua

云原生 API 网关,同时充当 LLM 与 AI 服务的统一入口,集中处理路由、鉴权、限流和可观测性。

API 网关+4
443760—
Kong/kong · 12.26
D
dsh-our-free-model
Ebony-Vinyl·JavaScript

给 dsh 装个插件就能免登录、免 API Key 直接用 DeepSeek V4.1 Flash、Kimi K3 等前沿大模型,完全免费且不限量。

免费大模型+4
694870—
Ebony-Vinyl/dsh-our-free-model · 12.18
R
RWKV-Runner
josStorer·TypeScript

8MB 的 RWKV 模型管理与启动工具,全自动部署推理,并提供兼容 OpenAI API 的接口,方便直接接入现有客户端。

RWKV+4
65010—
josStorer/RWKV-Runner · 11.94
C
coai
coaidev·TypeScript

企业级多租户 LLM 网关,统一接入 200+ 模型和 35+ 供应商,带负载均衡、计费订阅和成本管理,适合团队统一管理 AI 调用。

LLM 网关+4
93460—
coaidev/coai · 11.89
P
puppeteer
puppeteer·TypeScript

用 JavaScript 控制 Chrome 和 Firefox 的浏览器自动化库,可做网页爬取、端到端测试和生成页面截图 PDF。

浏览器自动化+4
958240—
puppeteer/puppeteer · 11.83
L
LibreChat
LibreChat-AI·TypeScript

可自托管的多用户 AI 聊天平台,聚合 OpenAI、Anthropic、Gemini、DeepSeek 等多家模型,支持模型切换、Agent、MCP、代码解释器和消息搜索。

自托管聊天平台+4
469660—
LibreChat-AI/LibreChat · 11.79
M
magpie
yetone·Go

在 macOS 菜单栏里统一管理各家大模型的接入,让 Codex 跑在 DeepSeek 上、Claude Code 跑在 Kimi 上,省去逐个配置的麻烦。

模型路由+4
344190—
yetone/magpie · 11.78
G
gpt-load
tbphp·Go

自托管的 AI 网关,把多个渠道的 API 密钥和订阅账号统一接入,提供调度、故障转移、请求日志与用量统计,适合集中管理 LLM 调用。

AI 网关+4
72090—
tbphp/gpt-load · 11.61
C
ComfyUI
Comfy-Org·Python

基于节点图的扩散模型图形界面与后端,支持本地快速推理和 API 调用,方便搭建和调试图像生成工作流。

扩散模型+4
1462950—
Comfy-Org/ComfyUI · 11.61
C
composio
ComposioHQ·TypeScript

提供 1000+ 工具包、工具检索、上下文管理、鉴权和沙箱工作台,帮开发者快速搭建能把意图变成行动的 AI Agent。

AI Agent+4
310240—
ComposioHQ/composio · 11.6
C
ChuanhuChatGPT
GaiZhenbiao·Python

给 ChatGPT 及 Llama、Claude、Gemini 等大模型套上清爽的网页界面,支持智能体、文件问答、联网搜索和模型微调,开箱即用。

大模型对话界面+4
152420—
GaiZhenbiao/ChuanhuChatGPT · 11.58
M
mlflow
mlflow·Python

开源 AI 工程平台,覆盖智能体、大模型和传统机器学习,帮团队调试、评估、监控和优化生产级 AI 应用,同时控制成本并管理模型与数据访问权限。

实验管理+4
287610—
mlflow/mlflow · 11.57
L
letta
letta-ai

给大模型智能体加上持久记忆和状态管理,让 Agent 能跨会话记住信息、持续学习并自我改进。

有状态智能体+4
254150—
letta-ai/letta · 11.49
P
prompt-optimizer
linshenkx·TypeScript

帮你把随手写的提示词改写成结构清晰、效果更好的版本,还能对比测试不同提示词的效果,适合经常和 LLM 打交道的人。

提示词优化+3
411680—
linshenkx/prompt-optimizer · 11.49
G
gateway
Portkey-AI·TypeScript

一个高性能 AI 网关,用统一 API 把请求路由到 1600+ 大模型,并内置 50+ 安全护栏,省去多模型接入和内容风控的重复开发。

AI 网关+4
133650—
Portkey-AI/gateway · 11.47
M
mem0
mem0ai·Python

为 AI Agent 提供可持久化的长期记忆层,让智能体和应用能跨会话记住上下文,开箱即用、面向生产环境。

长期记忆+4
688020—
mem0ai/mem0 · 11.46
C
cc-switch
farion1231·Rust

跨平台桌面客户端,把 Claude Code、Codex、OpenCode、DeepSeek Harness 等多个 AI 编程助手集中到一个界面里统一管理和切换,省去来回折腾配置。

AI 编程助手+4
1535600—
farion1231/cc-switch · 11.43
J
jcode
1jehuang·Rust

用 Rust 写的高性能编码 Agent 运行框架,专为多 Agent 并行开发的重度工作流设计,在终端里跑 TUI 界面。

编码 Agent+4
216930—
1jehuang/jcode · 11.36
A
ai-engineering-from-scratch
rohitg00·Python

从零手写实现 AI 工程核心组件的实战课程,覆盖智能体、大模型、计算机视觉与深度学习,边学边构建可交付的项目。

AI工程+4
784210—
rohitg00/ai-engineering-from-scratch · 11.36
U
unsloth
unslothai·Python

本地跑和训练大模型、扩散模型的图形界面,支持 GGUF、MLX 及 Qwen、DeepSeek、Gemma、FLUX 等主流模型,省去命令行配置的麻烦。

本地推理+4
793200—
unslothai/unsloth · 11.23
R
ragflow
infiniflow·Go

面向智能体的 RAG 检索引擎,把文档解析、知识编译和上下文管理整合成一套基础设施,帮 Agent 稳定拿到高质量检索结果。

检索增强生成+4
940190—
infiniflow/ragflow · 11.21
J
JeecgBoot
jeecgboot·Java

企业级 AI 低代码平台,权限、多租户、工作流、报表、大屏、AI 知识库等通用能力开箱即用,AI 只需生成业务差异部分,一句话即可生成完整系统。

低代码平台+4
484240—
jeecgboot/JeecgBoot · 11.19
H
higress
higress-group·Go

基于 Envoy 的云原生 AI 网关,统一代理和路由大模型 API 与微服务流量,支持 AI 原生插件扩展。

AI 网关+4
97490—
higress-group/higress · 11.17
O
openfang
RightNow-AI·Rust

用 Rust 写的开源 Agent 操作系统,为 AI Agent 提供统一的运行与编排环境,支持 MCP 协议和 LLM 接入。

Agent 操作系统+4
182470—
RightNow-AI/openfang · 11.12
R
ray
ray-project·Python

分布式 AI 计算引擎,提供核心分布式运行时和一组 AI 库,用来加速机器学习负载、大模型推理与超参搜索。

分布式计算+4
442560—
ray-project/ray · 11.06
D
deer-flow
bytedance·Python

开源的长时程 SuperAgent 运行框架,借助沙箱、记忆、工具、技能、子代理和消息网关,自动完成从研究、编码到内容创作的分钟级到小时级复杂任务。

Agent 框架+4
852450—
bytedance/deer-flow · 10.98
Q
QwenPaw
agentscope-ai·TypeScript

开箱即用的个人 AI 助手,可本地或云端部署,接入多种聊天应用,并通过 MCP 与工具扩展能力。

个人助手+4
376140—
agentscope-ai/QwenPaw · 10.95
M
Memori
MemoriLabs·Python

给 AI Agent 提供持久化记忆的基础设施层,把对话和执行过程转成结构化状态,兼容任意 LLM,可直接接入现有数据设施,支持云上和本地部署。

Agent 记忆+4
175510—
MemoriLabs/Memori · 10.89
F
FastGPT
labring·TypeScript

基于大模型的知识库问答平台,开箱即用数据处理、RAG 检索和可视化 AI 工作流编排,无需复杂配置即可搭建复杂问答系统。

知识库问答+4
300240—
labring/FastGPT · 10.74
D
distilly
titanwings·Python

把某人的思维方式蒸馏成可复用的 Skill,供任意 Agent 或 Bot 直接加载使用,解决智能体难以复刻特定人物或同事行为模式的问题。

智能体技能+4
265160—
titanwings/distilly · 10.66
M
MobileAgent
X-PLUG·Python

基于多模态大模型的 GUI 智能体家族,能看懂手机和电脑界面并自动点击操作,帮你完成跨 App 的自动化任务。

GUI 智能体+4
93770—
X-PLUG/MobileAgent · 10.56
C
cc-haha
NanmiCoder·TypeScript

本地优先的 Claude Code / AI Agent 桌面工作台,支持多 Agent 协作、Git Worktree、代码 Diff 和技能市场,还能通过微信、飞书等远程访问。

AI Agent+4
153990—
NanmiCoder/cc-haha · 10.46
H
hypit
hypit-ai·TypeScript

用 AI 智能体复刻爆款视频的完整工作流:换脸、改文案、替换 B-roll,一条命令批量产出上百个变体。

视频复刻+4
292790—
hypit-ai/hypit · 10.45

发布说明里提到「LLM API管理」

来自 6 个版本
  • defilantech/LLMKubellmkube-0.10.172026-11-06

    A Helm chart for LLMKube - Kubernetes operator for GPU-accelerated LLM inference

  • defilantech/LLMKubellmkube-0.10.162026-11-02

    A Helm chart for LLMKube - Kubernetes operator for GPU-accelerated LLM inference

  • richardgill/llm-ui@llm-ui/[email protected]2024-06-01

    …ted dependencies \[[ 7f81520 ](https://github.com/llm-ui-kit/llm-ui/commit/7f81520aa8805ec991d37c37b8d4d8ebb959eaed)]: - @llm-ui/[email protected]

  • richardgill/llm-ui@llm-ui/[email protected]2024-06-01

    …ted dependencies \[[ 7f81520 ](https://github.com/llm-ui-kit/llm-ui/commit/7f81520aa8805ec991d37c37b8d4d8ebb959eaed)]: - @llm-ui/[email protected]

  • richardgill/llm-ui@llm-ui/[email protected]2024-06-01

    …ted dependencies \[[ 9360d30 ](https://github.com/llm-ui-kit/llm-ui/commit/9360d3049cfa669a133ef673fb5bb220c5823f09)]: - @llm-ui/[email protected]

  • richardgill/llm-ui@llm-ui/[email protected]2024-06-01

    Patch Changes - [ 261](https://github.com/llm-ui-kit/llm-ui/pull/261) [ 9360d30 ](https://github.com/llm-ui-kit/llm-ui/commit/9360d3049cfa669a133ef673fb5bb220c5823f09) Th