OSS Radar
首页
AI 分类
推理与服务5
大模型推理服务 · 向量化 / 重排服务 · 网关与路由
训练与微调6
训练框架 · 参数高效微调 · 后训练 / RLHF
数据工程4
数据集托管 · 数据清洗与处理 · 合成数据
检索与 RAG9
向量数据库 · RAG 框架 · 检索增强引擎
Agent 与编排6
Agent 框架 · 编码 Agent · 电脑 / 浏览器 Agent
评估 · 实验 · MLOps8
模型评测 · Agent 评测 · 实验管理
多模态生成5
图像生成 · 视频生成 · 视觉语言模型
视觉与 3D5
检测 / 分割 · 3D 重建 · 3D 生成
模型工具链8
量化 · 剪枝与蒸馏 · 格式转换
科研与论文实现3
论文复现 · 时序预测 · 科学计算 / 生物医药
开发工具
开发与框架5构建与交付4底层与逆向3
系统工具
系统与文件7图像与影音工具5实用小工具4
效率工具
记录与整理3输入与阅读4
媒体与内容
播放与媒体库4内容处理3
网络工具
访问与代理3连接与传输4
游戏相关
开发与运行2游玩相关2
安全与隐私
攻防与审计3加密与隐私1
硬件与机器人
嵌入式与物联网5机器人与具身智能3
数据与金融
数据库与存储4金融与量化1
探索排行榜开发语言标签
/
周报
本周新增、涨得最快、发了什么版本
对比项目
两个项目并排看 star、维护状态与硬件
数据体检
收录量、完整度缺口、沉睡项目
提交仓库
推荐项目,附上你的使用经验
反馈与纠错
分类错了、介绍不准、链接失效
关于本站
数据来源与分类原则
登录
OSS Radar

按算法工程工作流分类的开源工具库。数据来自 GitHub 公开 API,收录 6,740 个仓库、129 个细分分类。 带 ✦ 的条目有人工撰写的专家点评。

数据最近同步于 2026/11/11 14:07:13 · 本项目仅做聚合与索引,软件版权归原作者所有

浏览

  • 全部仓库
  • AI 分类
  • 排行榜
  • 开发语言
  • 标签与关键词
  • 搜索

关于

  • 关于本站
  • 数据体检
  • 提交仓库
  • 反馈与纠错
  • 偏好设置
  • 我的收藏
  • 我的点评
© 2026 OSS Radar数据每小时级同步 · 内容由算法与人工共同维护
⌘K
「无服务器GPU」找到 31 个结果 · 16ms命中词:服务器gpuserverservingserver* serving*只看有点评
S
ServerlessLLM
ServerlessLLM·Python

面向大模型的无服务器推理服务系统,通过多级检查点加载和 GPU 显存复用,实现低延迟、按需启动的 LLM 部署。

无服务器推理+4
7170—
ServerlessLLM/ServerlessLLM · 13.81
K
kitty
kovidgoyal·Python

基于 GPU 渲染的跨平台终端模拟器,速度快、功能丰富,适合长期在终端里工作的人,支持 OpenGL 加速和分屏等特性。

终端模拟器+4
356380—
kovidgoyal/kitty · 12.4
F
flutter
flutter·Dart

用一套 Dart 代码同时构建 Android、iOS、桌面和 Web 应用,自带渲染引擎保证多端界面一致,适合想快速交付精美跨平台 App 的团队。

跨平台应用框架+4
1811810—
flutter/flutter · 12.3
L
LocalAI
mudler·Go

开源本地 AI 推理引擎,无需 GPU 即可在任意硬件上跑 LLM、视觉、语音和图像生成模型,提供兼容 OpenAI 的 API。

推理引擎+4
503120—
mudler/LocalAI · 12.18
P
playwright-mcp
microsoft·TypeScript

把 Playwright 浏览器自动化能力封装成 MCP 服务器,让 AI Agent 通过结构化接口操控网页、抓取页面内容,无需依赖截图识别。

浏览器自动化+4
394910—
microsoft/playwright-mcp · 11.62
B
btop
aristocratos·C++

终端里的资源监控工具,实时显示 CPU、内存、磁盘、网络和进程占用,界面美观、操作顺手,适合在服务器或本地随时查看系统状态。

系统监控+4
353380—
aristocratos/btop · 11.43
C
CowAgent
zhayujie·Python

开源个人 AI 助手与 Agent Harness,能规划任务、调用工具和技能,靠记忆与知识自我进化,支持多智能体、多模型、多渠道,一行命令即可安装。

智能体框架+4
478770—
zhayujie/CowAgent · 11.36
O
openvino
openvinotoolkit·C++

把训练好的深度学习模型优化并部署到 Intel CPU、GPU 等硬件上做推理,支持视觉、LLM 和生成式模型,省去自己折腾底层加速的麻烦。

推理引擎+4
111460—
openvinotoolkit/openvino · 11.21
S
shimmy
Michael-A-Kuykendall·Rust

纯 Rust 实现的 WebGPU 推理引擎,原生支持 GGUF 模型,兼容 OpenAI API,无需 Python 和 llama.cpp,单个二进制文件即可在任意 GPU 上跑本地大模型。

推理引擎+4
60140—
Michael-A-Kuykendall/shimmy · 11.2
M
mlc-llm
mlc-ai·Python

通用大模型部署引擎,借助机器学习编译技术把 LLM 高效跑在各种硬件上,从手机到服务器都能用。

推理引擎+4
233650—
mlc-ai/mlc-llm · 11.19
L
llm-universe
datawhalechina·Jupyter Notebook

面向零基础开发者的大模型应用开发教程,手把手带你用 LangChain 搭建 RAG 应用,从调用 API 到构建知识库问答系统。

大模型教程+4
142890—
datawhalechina/llm-universe · 11
S
serviette
pathwaycom·Python

一个免代码的 RAG 服务器,能随文档更新自动同步答案,支持 8 种向量数据库,基于 Pathway 构建。

RAG+4
587110—
pathwaycom/serviette · 10.82
C
cherry-studio
CherryHQ·TypeScript

把多家大模型、AI Agent 和 MCP 工具整合到一个桌面工作台里,方便日常对话、调用工具和提升生产力。

AI 工作台+4
534250—
CherryHQ/cherry-studio · 10.78
W
WasmEdge
WasmEdge·C++

轻量高性能的 WebAssembly 运行时,面向云原生、边缘和去中心化场景,支撑无服务器函数、微服务、智能合约和 IoT 设备。

WebAssembly 运行时+4
108550—
WasmEdge/WasmEdge · 10.74
X
xerj
xerj-org·Rust

一个 Rust 单二进制实现的 AI 搜索引擎兼 MCP 服务器,把代码、文档、日志、JSONL/CSV 和 PDF 统一索引,为智能体和机器人提供 BM25 全文、向量、混合检索、免 grep 代码搜索、Agent 记忆与 RAG 能力。

混合检索+4
188190—
xerj-org/xerj · 10.68
T
transformers.js
huggingface·JavaScript

在浏览器里直接跑 Hugging Face 的 Transformer 模型,不用后端服务器,前端就能做文本、视觉等机器学习推理。

浏览器推理+4
164120—
huggingface/transformers.js · 10.65
G
glances
nicolargo·Python

跨平台的系统监控工具,可看作 top/htop 的增强替代品,在终端或网页中实时查看 CPU、内存、磁盘、网络等资源占用。

系统监控+4
339350—
nicolargo/glances · 10.6
O
one-api
songquanpeng·JavaScript

把 OpenAI、Claude、Gemini、通义千问等十几家主流大模型统一到一个 API 下,方便做密钥管理和二次分发,单文件部署开箱即用。

LLM API 网关+4
374020—
songquanpeng/one-api · 10.54
R
runanywhere-sdks
RunanywhereAI·C++

一套能在手机和边缘设备上本地跑大模型、扩散模型和多模态推理的生产级 SDK,覆盖 Android、iOS、Flutter,省去自己搭推理链路的麻烦。

端侧推理+4
103390—
RunanywhereAI/runanywhere-sdks · 10.53
E
ego-lite
citrolabs·JavaScript

给 AI 代理用的极速浏览器自动化工具,能把已登录的浏览器状态直接共享给 Codex、Claude Code 等代理,不打扰你正常使用,零配置零成本。

浏览器自动化+3
225160—
citrolabs/ego-lite · 10.41
O
ODS
Osmantic·Python

把普通 PC、Mac 或 Linux 机器变成私有 AI 服务器,集成 llama.cpp、ComfyUI、Open WebUI、n8n 等组件,方便本地跑大模型、RAG 和 Agent 工作流。

私有 AI 服务器+4
78110—
Osmantic/ODS · 10.36
C
colmap
colmap·C++

从多张照片重建三维场景的 C++ 工具,集成了运动恢复结构(SfM)和多视图立体(MVS),可输出相机位姿与稠密点云。

三维重建+4
132000—
colmap/colmap · 10.07
A
agentgateway
agentgateway·Rust

面向 AI Agent 和 MCP 服务器的下一代代理网关,用 Rust 编写,把 Agent 与模型、工具之间的流量统一接入、路由和管控。

AI 网关+4
61160—
agentgateway/agentgateway · 9.87
L
linux-android
mayukh4·Shell

把闲置安卓手机变成 GPU 加速的 Linux 桌面(XFCE4/KDE/LXQt/MATE)或 Home Assistant 智能家居服务器,全程基于 Termux,免 root、无需电脑和云服务。

安卓跑Linux+4
38700—
mayukh4/linux-android · 9.32
B
beta9
beam-cloud·Go

面向 GPU 工作负载的无服务器平台,可快速部署推理服务、沙箱和后台任务,按需自动扩缩容,省去自建集群的运维成本。

无服务器GPU+4
18470—
beam-cloud/beta9 · 9.02
P
Personal-AI-Computer
autonomous-ai

开源 AI 工作站整机方案,覆盖 2 卡桌面到 8 卡服务器,提供 CAD 图纸、BOM 清单、BIOS 配置和装机指南,方便自建本地大模型推理机器。

AI工作站+4
15660—
autonomous-ai/Personal-AI-Computer · 8.9
V
vllm-metal
vllm-project·Python

让 vLLM 在 Apple Silicon 的 Mac 上跑起来,通过 Metal 和 MLX 后端把大模型推理搬到本地苹果芯片,省去 GPU 服务器。

大模型推理+4
19820—
vllm-project/vllm-metal · 8.62
D
dsh-Mimir-Academic-research
1692775560·TypeScript

一站式科研工作台插件,把 LaTeX 边写边编译、arXiv 文献管理、实验追踪、指标图表和 GPU 服务器 SSH 任务编排整合在一起,覆盖科研全周期。

科研工作台+4
5640—
1692775560/dsh-Mimir-Academic-research · 8.42
M
muxin
LumaryLabsLLC·Rust

把多台 Mac、Linux、Windows 机器统一到一个应用里,集中管理 AI 代理会话、桌面、文件、日志和 GitHub,并自带 MCP 服务器。

多机管理+4
4510—
LumaryLabsLLC/muxin · 8.29
M
MiniSearch
felladrin·TypeScript

浏览器里直接跑的极简 AI 搜索平台,聚合多个搜索源并调用本地大模型做问答,无需后端服务器。

AI 搜索+4
6080—
felladrin/MiniSearch · 8.15
V
vllm-playground
micytao·JavaScript

给 vLLM 推理服务器套上现代化 Web 界面,方便管理和对话,兼容 GPU/CPU,并针对 macOS Apple Silicon 与 OpenShift/Kubernetes 部署做了优化。

vLLM+4
5460—
micytao/vllm-playground · 8.15