OSS Radar
首页
AI 分类
推理与服务5
大模型推理服务 · 向量化 / 重排服务 · 网关与路由
训练与微调6
训练框架 · 参数高效微调 · 后训练 / RLHF
数据工程4
数据集托管 · 数据清洗与处理 · 合成数据
检索与 RAG9
向量数据库 · RAG 框架 · 检索增强引擎
Agent 与编排6
Agent 框架 · 编码 Agent · 电脑 / 浏览器 Agent
评估 · 实验 · MLOps8
模型评测 · Agent 评测 · 实验管理
多模态生成5
图像生成 · 视频生成 · 视觉语言模型
视觉与 3D5
检测 / 分割 · 3D 重建 · 3D 生成
模型工具链8
量化 · 剪枝与蒸馏 · 格式转换
科研与论文实现3
论文复现 · 时序预测 · 科学计算 / 生物医药
开发工具
开发与框架5构建与交付4底层与逆向3
系统工具
系统与文件7图像与影音工具5实用小工具4
效率工具
记录与整理3输入与阅读4
媒体与内容
播放与媒体库4内容处理3
网络工具
访问与代理3连接与传输4
游戏相关
开发与运行2游玩相关2
安全与隐私
攻防与审计3加密与隐私1
硬件与机器人
嵌入式与物联网5机器人与具身智能3
数据与金融
数据库与存储4金融与量化1
探索排行榜开发语言标签
/
周报
本周新增、涨得最快、发了什么版本
对比项目
两个项目并排看 star、维护状态与硬件
数据体检
收录量、完整度缺口、沉睡项目
提交仓库
推荐项目,附上你的使用经验
反馈与纠错
分类错了、介绍不准、链接失效
关于本站
数据来源与分类原则
登录
OSS Radar

按算法工程工作流分类的开源工具库。数据来自 GitHub 公开 API,收录 6,740 个仓库、129 个细分分类。 带 ✦ 的条目有人工撰写的专家点评。

数据最近同步于 2026/11/11 14:07:13 · 本项目仅做聚合与索引,软件版权归原作者所有

浏览

  • 全部仓库
  • AI 分类
  • 排行榜
  • 开发语言
  • 标签与关键词
  • 搜索

关于

  • 关于本站
  • 数据体检
  • 提交仓库
  • 反馈与纠错
  • 偏好设置
  • 我的收藏
  • 我的点评
© 2026 OSS Radar数据每小时级同步 · 内容由算法与人工共同维护
⌘K
「边缘设备」找到 48 个结果 · 17ms命中词:边缘设备只看有点评
W
WasmEdge
WasmEdge·C++

轻量高性能的 WebAssembly 运行时,面向云原生、边缘和去中心化场景,支撑无服务器函数、微服务、智能合约和 IoT 设备。

WebAssembly 运行时+4
108550—
WasmEdge/WasmEdge · 10.59
T
TensorRT
NVIDIA·C++

NVIDIA 官方的高性能深度学习推理 SDK,能把训练好的模型在 NVIDIA GPU 上做极致加速和部署,适合追求低延迟高吞吐的生产推理场景。

推理引擎+4
134470—
NVIDIA/TensorRT · 10.54
D
docker-ipsec-vpn-server
hwdsl2·Shell

一条 Docker 命令就能拉起 IPsec VPN 服务端,支持 IPsec/L2TP、Cisco IPsec 和 IKEv2,自动生成配置,各平台客户端都能连。

IPsec VPN+4
71620—
hwdsl2/docker-ipsec-vpn-server · 10.31
M
moby
moby·Go

构建容器化系统的开源协作项目,提供可拼装的组件,用来搭建和定制自己的容器平台,也是 Docker 的上游基础。

容器引擎+3
723690—
moby/moby · 10.05
C
cloudflared
cloudflare·Go

Cloudflare Tunnel 官方客户端,把本地服务安全地暴露到公网,无需开放端口或配置公网 IP,适合零信任内网穿透。

内网穿透+4
165170—
cloudflare/cloudflared · 9.7
Z
zeroclaw
zeroclaw-labs·Rust

用 Rust 写的轻量级自主 AI 个人助理基础设施,跨操作系统和平台部署,组件可自由替换。

AI 助理+4
333200—
zeroclaw-labs/zeroclaw · 9.64
M
mlc-llm
mlc-ai·Python

通用大模型部署引擎,借助机器学习编译技术把 LLM 高效跑在各种硬件上,从手机到服务器都能用。

推理引擎+4
233650—
mlc-ai/mlc-llm · 9.58
E
EasyTier
EasyTier·Rust

用 Rust 写的去中心化 Mesh VPN,支持 WireGuard,能自动穿透 NAT 把多台设备组成虚拟局域网,适合替代 Tailscale/ZeroTier 自建组网。

Mesh VPN+4
146770—
EasyTier/EasyTier · 9.57
S
server
triton-inference-server·Python

面向云端和数据中心的高性能推理服务端,支持多种深度学习框架模型部署,并可在边缘设备上运行。

推理服务+4
111360—
triton-inference-server/server · 9.4
Z
ZeroTierOne
zerotier·C++

把分布在全球的设备组成一个虚拟二层以太网,无需公网 IP 或复杂配置就能点对点直连,适合搭建 SD-WAN 和远程组网。

虚拟局域网+4
172470—
zerotier/ZeroTierOne · 9.34
S
setup-ipsec-vpn
hwdsl2·Shell

几分钟内用脚本搭好自己的 IPsec VPN 服务器,支持 IPsec/L2TP、Cisco IPsec 和 IKEv2,覆盖主流 Linux 发行版和树莓派,附带客户端配置与管理脚本。

IPsec VPN+4
290020—
hwdsl2/setup-ipsec-vpn · 9.28
Z
zvec
alibaba·C++

轻量级进程内向量数据库,主打极速检索,适合在本地为 RAG、语义搜索和 LLM 记忆等场景提供向量与全文检索能力。

向量数据库+4
162250—
alibaba/zvec · 9.26
J
jetson-inference
dusty-nv·C++

面向 NVIDIA Jetson 嵌入式设备的深度学习推理部署指南,用 TensorRT 加速图像识别等视觉任务,配套教程和预训练模型开箱即用。

推理部署+4
90350—
dusty-nv/jetson-inference · 9.09
O
omni-tools
iib0011·TypeScript

自托管的网页工具合集,涵盖图片处理、PDF 操作、格式转换等日常实用功能,无广告无追踪,打开浏览器就能用。

自托管+4
106950—
iib0011/omni-tools · 9.04
M
MobileAgent
X-PLUG·Python

基于多模态大模型的 GUI 智能体家族,能看懂手机和电脑界面并自动点击操作,帮你完成跨 App 的自动化任务。

GUI 智能体+4
93770—
X-PLUG/MobileAgent · 8.98
Y
yolov3
ultralytics·Python

基于 PyTorch 的 YOLOv3 系列实现,覆盖训练、验证、推理全流程,并支持导出 ONNX、CoreML、TensorRT 等多种格式,方便做实时目标检测和边缘部署。

目标检测+4
106380—
ultralytics/yolov3 · 8.95
R
RapidOCR
RapidAI·Python

基于 ONNX Runtime、OpenVINO、PaddlePaddle 等多家推理后端的 OCR 工具包,支持多语言识别,方便在不同硬件上快速部署文字检测与识别。

OCR+4
85080—
RapidAI/RapidOCR · 8.91
E
executorch
pytorch·Python

PyTorch 官方的端侧推理框架,把训练好的模型导出并部署到手机、嵌入式和边缘设备上运行,覆盖 CPU、GPU 等多种后端。

端侧推理+4
51700—
pytorch/executorch · 8.91
R
runanywhere-sdks
RunanywhereAI·C++

一套能在手机和边缘设备上本地跑大模型、扩散模型和多模态推理的生产级 SDK,覆盖 Android、iOS、Flutter,省去自己搭推理链路的麻烦。

端侧推理+4
103390—
RunanywhereAI/runanywhere-sdks · 8.9
C
CloudFlare-ImgBed
MarSeventh·JavaScript

基于 Cloudflare Workers、R2 和 D1 搭建的无服务器图床与文件托管方案,可当个人网盘用,省去自建服务器和运维成本。

图床+4
68900—
MarSeventh/CloudFlare-ImgBed · 8.82
M
memvid
memvid·Rust

给 AI Agent 用的无服务器单文件记忆层,用嵌入式向量检索替代复杂 RAG 管线,让智能体拥有即时检索和长期记忆能力。

记忆层+4
173940—
memvid/memvid · 8.78
G
gocv
hybridgroup·Go

用 Go 语言调用 OpenCV 做计算机视觉的封装库,支持 DNN 推理、CUDA 加速、OpenVINO 和扩展模块,省去写 C++ 胶水代码的麻烦。

计算机视觉+4
75180—
hybridgroup/gocv · 8.73
O
Olares
beclab·Go

开源自托管的个人云操作系统,基于 Kubernetes 在本地或边缘设备上常驻运行 AI Agent,兼顾数据隐私与模型服务。

个人云+4
53570—
beclab/Olares · 8.71
S
shimmy
Michael-A-Kuykendall·Rust

纯 Rust 实现的 WebGPU 推理引擎,原生支持 GGUF 模型,兼容 OpenAI API,无需 Python 和 llama.cpp,单个二进制文件即可在任意 GPU 上跑本地大模型。

推理引擎+4
60140—
Michael-A-Kuykendall/shimmy · 8.53
B
BerryNet
DT42·Python

在树莓派等边缘设备上跑深度学习推理的网关,把模型部署到 IoT 终端并通过 MQTT 上报结果,省去云端往返。

边缘推理+4
16140—
DT42/BerryNet · 8.47
T
tract
sonos·Rust

用 Rust 写的轻量级推理引擎,能直接跑 TensorFlow 和 ONNX 模型,无需额外依赖,适合在边缘设备或嵌入式场景部署神经网络。

推理引擎+4
31190—
sonos/tract · 8.19
T
TensorRT
pytorch·Python

把 PyTorch、TorchScript 和 FX 模型编译成 TensorRT 引擎,在 NVIDIA GPU 上做推理加速,省去手写 TensorRT 网络的麻烦。

推理加速+4
30220—
pytorch/TensorRT · 8.17
O
onnx2c
kraiskil·C

把 ONNX 模型编译成纯 C 代码,方便在单片机和边缘设备上直接跑推理,不用带完整运行时。

模型编译+4
4250—
kraiskil/onnx2c · 8.02
O
openmptcprouter
Ysurac·Makefile

在 OpenWrt 上把多条宽带、4G/LTE 等网络用 MPTCP 聚合成一条链路,提升带宽和可靠性,适合多线接入或需要稳定出口的场景。

多路径TCP+4
25530—
Ysurac/openmptcprouter · 7.96
J
jetson_stats
rbonghi·Python

在 NVIDIA Jetson 系列开发板上实时查看 CPU、GPU、内存和功耗状态,还能直接调整风扇与功耗模式,省去手动翻 sysfs 的麻烦。

Jetson 监控+4
26350—
rbonghi/jetson_stats · 7.9
W
wireguard-install
hwdsl2·Shell

一条命令在 Ubuntu、Debian、CentOS 等主流 Linux 上装好 WireGuard VPN 服务端,带交互式配置和客户端管理,省去手动改配置的麻烦。

WireGuard+4
32960—
hwdsl2/wireguard-install · 7.8
M
model-optimization
tensorflow·Python

面向 Keras 和 TensorFlow 的模型压缩工具包,通过量化和剪枝把训练好的模型压小、跑得更快,方便部署到移动端和边缘设备。

模型压缩+4
15830—
tensorflow/model-optimization · 7.68
I
inference
roboflow·Python

把任意电脑或边缘设备变成计算机视觉推理服务器,一条命令部署目标检测、分类、实例分割等模型,省去自己搭服务的麻烦。

计算机视觉+4
24920—
roboflow/inference · 7.67
W
wasmi
wasmi-labs·Rust

轻量高效的 WebAssembly 解释器,专为嵌入式系统和插件运行时设计,提供确定性执行和燃料计量,适合资源受限环境。

WebAssembly解释器+4
23450—
wasmi-labs/wasmi · 7.64
J
Jetson-Nano-Ubuntu-20-image
Qengineering

为 Jetson Nano 准备的 Ubuntu 20.04 系统镜像,预装 CUDA、OpenCV、PyTorch、TensorFlow、TensorRT 等深度学习环境,省去在边缘设备上手动配置的麻烦。

Jetson Nano+4
9880—
Qengineering/Jetson-Nano-Ubuntu-20-image · 7.52
F
FastestDet
dog-qiuqiu·Python

超轻量无锚框目标检测算法,权重仅 250K 参数,比 yolo-fastest 快 10%,后处理更简单,适合边缘设备部署。

目标检测+4
8630—
dog-qiuqiu/FastestDet · 7.47
L
libreyolo
LibreYOLO·Python

MIT 协议的开源计算机视觉库,支持目标检测、实例分割和姿态估计,兼容 ONNX 与 PyTorch,方便在边缘设备上训练和部署模型。

计算机视觉+4
10080—
LibreYOLO/libreyolo · 7.39
E
edgeyolo
LSH9832·Python

面向边缘设备的实时无锚框目标检测器,精度不错,支持 ONNX、MNN 及 RK3588、昇腾等国产 NPU 部署。

目标检测+4
5310—
LSH9832/edgeyolo · 7.32
S
Savant
insight-platform·Python

基于 Python 的视频分析与计算机视觉框架,内置 NVIDIA DeepStream 和 CUDA 支持,可在边缘设备上快速搭建目标检测、实例分割等推理流水线。

视频分析+4
8680—
insight-platform/Savant · 7.3
R
rkllama
NotPunchnox·Python

在瑞芯微 NPU 上跑大模型的推理服务,类似 Ollama 的替代方案,通过优化 rkllm 让 Orange Pi 等设备高效离线运行 AI 模型。

NPU推理+4
6260—
NotPunchnox/rkllama · 7.29

发布说明里提到「边缘设备」

来自 2 个版本
  • wwbin2017/bailingv0.0.22025-03-14

    …对话体验,端到端时延800ms。百聆旨在无需GPU的情况下,实现类GPT-4o的对话效果,适用于各种边缘设备和低资源环境。 🚀 流畅对话体验:低延迟、不卡顿,几乎像真人对话一样自然,百聆使用了多个开源模型,确保高效、可靠的语音对话体验。 🖥 轻量级部署:无需高端硬件,甚至不需要 GPU,通过优化,可本地部署,仍能提供类GPT-4的性能

  • wwbin2017/bailingv0.0.12024-10-04

    …对话体验,端到端时延800ms。百聆旨在无需GPU的情况下,实现类GPT-4o的对话效果,适用于各种边缘设备和低资源环境。 - 语音输入:通过 FunASR 进行准确的语音识别。 - 语音活动检测:使用 silero-vad 过滤无效音频,提升识别效率。 - 智能对话生成:依靠 deepseek 提供的强大语言理解能力生成自然的文本回复,