OSS Radar
首页
AI 分类
推理与服务5
大模型推理服务 · 向量化 / 重排服务 · 网关与路由
训练与微调6
训练框架 · 参数高效微调 · 后训练 / RLHF
数据工程4
数据集托管 · 数据清洗与处理 · 合成数据
检索与 RAG9
向量数据库 · RAG 框架 · 检索增强引擎
Agent 与编排6
Agent 框架 · 编码 Agent · 电脑 / 浏览器 Agent
评估 · 实验 · MLOps8
模型评测 · Agent 评测 · 实验管理
多模态生成5
图像生成 · 视频生成 · 视觉语言模型
视觉与 3D5
检测 / 分割 · 3D 重建 · 3D 生成
模型工具链8
量化 · 剪枝与蒸馏 · 格式转换
科研与论文实现3
论文复现 · 时序预测 · 科学计算 / 生物医药
开发工具
开发与框架5构建与交付4底层与逆向3
系统工具
系统与文件7图像与影音工具5实用小工具4
效率工具
记录与整理3输入与阅读4
媒体与内容
播放与媒体库4内容处理3
网络工具
访问与代理3连接与传输4
游戏相关
开发与运行2游玩相关2
安全与隐私
攻防与审计3加密与隐私1
硬件与机器人
嵌入式与物联网5机器人与具身智能3
数据与金融
数据库与存储4金融与量化1
探索排行榜开发语言标签
/
周报
本周新增、涨得最快、发了什么版本
对比项目
两个项目并排看 star、维护状态与硬件
数据体检
收录量、完整度缺口、沉睡项目
提交仓库
推荐项目,附上你的使用经验
反馈与纠错
分类错了、介绍不准、链接失效
关于本站
数据来源与分类原则
登录
OSS Radar

按算法工程工作流分类的开源工具库。数据来自 GitHub 公开 API,收录 6,740 个仓库、129 个细分分类。 带 ✦ 的条目有人工撰写的专家点评。

数据最近同步于 2026/11/11 14:07:13 · 本项目仅做聚合与索引,软件版权归原作者所有

浏览

  • 全部仓库
  • AI 分类
  • 排行榜
  • 开发语言
  • 标签与关键词
  • 搜索

关于

  • 关于本站
  • 数据体检
  • 提交仓库
  • 反馈与纠错
  • 偏好设置
  • 我的收藏
  • 我的点评
© 2026 OSS Radar数据每小时级同步 · 内容由算法与人工共同维护
⌘K
「GPU 加速」找到 74 个结果 · 22ms命中词:加速gpu只看有点评
G
gpustack
gpustack·Python

统一管理 GPU 集群,调度 vLLM、SGLang 等推理引擎做高性能模型服务,还能按需开出可 SSH 登录的 GPU 实例。

GPU 集群管理+4
60220—
gpustack/gpustack · 18.34
A
alacritty
alacritty·Rust

用 Rust 写的跨平台 GPU 加速终端模拟器,基于 OpenGL 渲染,主打高帧率和低延迟,适合嫌普通终端卡顿、想要更顺滑操作体验的开发者。

终端模拟器+4
661650—
alacritty/alacritty · 13.42
W
wezterm
wezterm·Rust

用 Rust 写的 GPU 加速跨平台终端模拟器,同时内置终端复用功能,可替代 tmux 和传统终端,还支持串口连接。

终端模拟器+4
295250—
wezterm/wezterm · 13.38
G
ghostty
ghostty-org·Zig

用 Zig 编写、基于 GPU 加速的跨平台终端模拟器,界面采用各平台原生控件,启动快、功能全,适合追求流畅终端体验的开发者。

终端模拟器+3
639850—
ghostty-org/ghostty · 13.25
L
llama.cpp
ggml-org·C++

用 C/C++ 实现的大模型推理引擎,能在普通 CPU 和消费级显卡上跑 LLaMA 等模型,支持量化以降低显存占用。

推理引擎+4
1340570—
ggml-org/llama.cpp · 13.17
J
jax
jax-ml·Python

把 NumPy 风格的 Python 代码自动微分、向量化并 JIT 编译到 GPU/TPU,写起来像 NumPy,跑起来像高性能计算。

自动微分+4
366080—
jax-ml/jax · 13.1
L
LocalAI
mudler·Go

开源本地 AI 推理引擎,无需 GPU 即可在任意硬件上跑 LLM、视觉、语音和图像生成模型,提供兼容 OpenAI 的 API。

推理引擎+4
503120—
mudler/LocalAI · 12.97
F
FramePack
lllyasviel·Python

让视频扩散模型在普通显卡上也能跑起来,通过帧打包技术大幅降低显存占用,实现实用的长视频生成。

视频生成+4
173510—
lllyasviel/FramePack · 12.97
F
flash-attention
Dao-AILab·Python

快速且省显存的精确注意力实现,支持训练和推理,能显著加速 Transformer 长序列计算。

注意力机制+4
252740—
Dao-AILab/flash-attention · 12.95
V
vllm
vllm-project·Python

面向大语言模型的高吞吐、低显存推理与服务引擎,通过 PagedAttention 等优化显著提升并发吞吐并降低显存占用,适合部署在线推理服务。

推理引擎+4
967300—
vllm-project/vllm · 12.88
T
terminal
microsoft·C++

微软官方的新版 Windows Terminal 终端模拟器,同时包含原版 Windows 控制台宿主,支持多标签、GPU 加速渲染和 WSL,替代老旧的 cmd 窗口。

终端模拟器+4
1053690—
microsoft/terminal · 12.67
M
mlx
ml-explore·C++

面向 Apple silicon 的数组计算框架,让机器学习模型能直接在 Mac 芯片上高效训练和推理,省去折腾 CUDA 的麻烦。

Apple silicon+4
291360—
ml-explore/mlx · 12.63
O
onnxruntime
microsoft·C++

跨平台高性能推理与训练加速引擎,可直接加载 ONNX 模型,兼容 PyTorch、TensorFlow 等框架导出,解决模型在不同硬件上高效部署的问题。

推理引擎+4
222840—
microsoft/onnxruntime · 12.61
R
rio
raphamorim·Rust

用 Rust 写的 GPU 加速终端模拟器,基于 Metal/Vulkan 渲染,桌面和浏览器里都能跑,适合追求流畅终端体验的开发者。

终端模拟器+4
77270—
raphamorim/rio · 12.57
K
kitty
kovidgoyal·Python

基于 GPU 渲染的跨平台终端模拟器,速度快、功能丰富,适合长期在终端里工作的人,支持 OpenGL 加速和分屏等特性。

终端模拟器+4
356380—
kovidgoyal/kitty · 12.55
O
open-webui
open-webui·Svelte

自托管的大模型对话界面,兼容 Ollama、OpenAI API 等后端,内置 RAG 与 MCP 支持,让团队快速搭建私有 AI 聊天入口。

大模型界面+4
1583600—
open-webui/open-webui · 12.53
R
RapidRAW
CyberTimon·TypeScript

GPU 加速的 RAW 图像编辑器,支持非破坏性编辑、蒙版和调色,用 Rust + Tauri 打造,打开大文件也不卡。

RAW 编辑+4
110560—
CyberTimon/RapidRAW · 12.46
T
TensorRT
NVIDIA·C++

NVIDIA 官方的高性能深度学习推理 SDK,能把训练好的模型在 NVIDIA GPU 上做极致加速和部署,适合追求低延迟高吞吐的生产推理场景。

推理引擎+4
134470—
NVIDIA/TensorRT · 12.4
S
SmartSub
buxuku·TypeScript

一站式桌面工具,用本地 Whisper、FunASR 等模型离线把视频转成字幕,还能翻译、AI 配音、声音克隆和烧录字幕,支持批量处理与全平台 GPU 加速。

语音转字幕+4
60080—
buxuku/SmartSub · 12.32
F
flashinfer
flashinfer-ai·Cuda

面向 LLM 推理服务的高性能 CUDA 内核库,提供注意力、MoE 等算子的 JIT 实现,用来加速 GPU 上的大模型推理。

推理加速+4
68950—
flashinfer-ai/flashinfer · 12.27
F
frigate
blakeblackshear·Python

本地运行的网络录像机,接入 IP 摄像头后实时做目标检测,识别到人、车等对象再触发录像和 MQTT 通知,画面不出家门。

网络录像机+4
373920—
blakeblackshear/frigate · 12.24
L
LMCache
LMCache·Python

给 LLM 推理加速的 KV Cache 层,可对接 vLLM 等框架,复用和缓存键值对来降低显存占用、提升吞吐,支持 CUDA 和 ROCm。

KV缓存+4
123360—
LMCache/LMCache · 12.2
T
tvm
apache·Python

把深度学习模型编译到 CPU、GPU 及各类加速器上运行的开源编译器框架,通过统一中间表示和自动调优提升推理性能。

深度学习编译器+4
138980—
apache/tvm · 12.18
W
whisper.cpp
ggml-org·C++

OpenAI Whisper 语音识别模型的 C/C++ 移植版,无需 Python 和 GPU 依赖,在普通 CPU 上就能跑语音转文字。

语音识别+4
550910—
ggml-org/whisper.cpp · 12.14
F
faster-whisper
SYSTRAN·Python

基于 CTranslate2 重实现的 Whisper 语音转文字推理引擎,通过量化与高效推理大幅提速并降低显存占用,适合本地部署转录。

语音识别+4
266610—
SYSTRAN/faster-whisper · 12.13
L
lemonade
lemonade-sdk·C++

在本地 GPU 和 NPU 上直接跑优化后的大模型,帮用户发现并启动本地 AI 应用,省去自己折腾推理环境的麻烦。

本地推理+4
61820—
lemonade-sdk/lemonade · 12.04
D
DALI
NVIDIA·C++

GPU 加速的数据预处理库,提供高度优化的图像、音频处理算子和执行引擎,解决深度学习训练中数据管道拖慢 GPU 的瓶颈。

GPU加速+4
57940—
NVIDIA/DALI · 12.04
O
openvino
openvinotoolkit·C++

把训练好的深度学习模型优化并部署到 Intel CPU、GPU 等硬件上做推理,支持视觉、LLM 和生成式模型,省去自己折腾底层加速的麻烦。

推理引擎+4
111460—
openvinotoolkit/openvino · 11.97
O
openscreen
getopenscreen·TypeScript

免费开源的跨平台屏幕录制工具,支持 GPU 加速、无水印无订阅,内置语音转文字,适合快速录制产品演示视频。

屏幕录制+4
69110—
getopenscreen/openscreen · 11.97
G
GenieX
qualcomm·Go

在骁龙设备的 NPU、GPU 和 CPU 上本地跑大模型和多模态模型,几行代码就能接入,省去自己适配硬件的麻烦。

端侧推理+4
85140—
qualcomm/GenieX · 11.9
P
pytorch_geometric
pyg-team·Python

基于 PyTorch 的图神经网络库,提供图卷积等 GNN 模型的构建与训练组件,省去自己实现图数据结构和消息传递的麻烦。

图神经网络+4
241410—
pyg-team/pytorch_geometric · 11.87
M
mpv
mpv-player·C

轻量级命令行视频播放器,基于 FFmpeg 解码,支持硬件加速、字幕渲染和脚本扩展,适合在终端或嵌入其他应用中播放音视频。

命令行播放器+4
380630—
mpv-player/mpv · 11.8
G
gsplat
nerfstudio-project·Python

用 CUDA 加速高斯泼溅光栅化,让 3D 高斯场景的训练和渲染跑得更快,适合做三维重建与实时渲染。

高斯泼溅+4
58910—
nerfstudio-project/gsplat · 11.79
S
server
triton-inference-server·Python

面向云端和数据中心的高性能推理服务端,支持多种深度学习框架模型部署,并可在边缘设备上运行。

推理服务+4
111360—
triton-inference-server/server · 11.75
T
TensorRT-LLM
NVIDIA·Python

用 Python API 定义大模型,并借助 TensorRT 在 NVIDIA GPU 上做极致优化推理,还提供 Python/C++ 运行时来编排高性能服务。

推理引擎+4
150610—
NVIDIA/TensorRT-LLM · 11.75
W
winboat
winboat-org·TypeScript

在 Linux 上通过 Docker 和 RDP 运行 Windows 应用,实现接近原生的无缝集成,省去双系统或复杂虚拟机的麻烦。

Windows应用+4
233760—
winboat-org/winboat · 11.68
B
burn
tracel-ai·Rust

Rust 写的张量库和深度学习框架,兼顾灵活性与效率,支持自动微分、跨平台后端和内核融合,可训练和部署神经网络。

深度学习框架+4
162670—
tracel-ai/burn · 11.68
T
transformers.js
huggingface·JavaScript

在浏览器里直接跑 Hugging Face 的 Transformer 模型,不用后端服务器,前端就能做文本、视觉等机器学习推理。

浏览器推理+4
164120—
huggingface/transformers.js · 11.62
F
filmcraft
storytold·Rust

用纯 Rust 从零实现的开源非线性视频编辑器,支持多轨道剪辑与视频处理,适合想要轻量、高性能剪辑工具的用户。

视频编辑+4
180390—
storytold/filmcraft · 11.57
S
stable-diffusion-webui
AUTOMATIC1111·Python

基于 Gradio 的 Stable Diffusion 网页界面,把文生图、图生图、局部重绘等能力做成可视化操作面板,不用写代码就能跑图像生成。

图像生成+4
1652910—
AUTOMATIC1111/stable-diffusion-webui · 11.49

发布说明里提到「GPU 加速」

来自 6 个版本
  • rootsongjc/kubernetes-handbookv2026.11.102026-11-10

    …档 新增 Kubernetes Dynamic Resource Allocation 专题,覆盖 GPU 等加速设备的动态分配与调度,面向 AI 工作负载场景。 - 无 Sidecar 服务网格架构对比 新增 Istio Ambient、Cilium、Linkerd 等无 Sidecar 架构的原理对比与选型建议,紧跟服务网格的扁平化演

  • waligoraamodio288-rgb/hongguo-desktop-releasesv1.0.262026-11-10

    …- 新增5、10、15、30秒快进快退步长,在应用设置或播放器快捷键面板调整,说明即时同步;保留长按加速和进度条精确拖动。 - 保留原配色、登录资料、收藏历史、搜索播放、界面缩放与托盘声音设置。 验收:正式程序搜索“东北后妈”、第1→4→1集声画持续推进;新装、从1.0.25升级、卸载保留数据及回退通过。并行下载和步长设置复用同一冻结候选

  • JiangNanGenius/floe-agentandroid/v0.1.0-alpha.772026-11-10

    …新任务的Linux环境复制采用有界流水线,保留每份文件和目录的落盘;结束工作线程后才发布或清理,设备加速幅度待实测。 - 定时历史新增“打开任务”;不重新执行计划,精确历史运行定位继续完善。 - 包含受控原生确认通路和升级完成状态前置修复。 - Compact wrapping Linux app choices, trailing sw

  • Ray-lea/Argusv0.4.02026-11-06

    ….4.0 将应用界面从 Tauri、SolidJS 与 WebView2 全面迁移至 Rust + GPUI Kit 原生技术栈,脱离浏览器内核开销,重做 DirectX 原生渲染与交互,并深度优化高刷新率动画、实时曲线绘制、列表采样刷新及后台常驻的资源占用。本版还新增自定义进程列、磁盘健康与 SMART 详情、更多 Intel 核显读数

  • autonomous-ai/Personal-AI-Computercase-cad-2026-112026-11-05

    Final case CAD for the 2-GPU and 4-GPU builds, plus the Computer 2 kit assembly manual. - 2-GPU case (2x 5090 and 2x RTX PRO 6000 builds): [full-case STEP assembly](https

  • buxuku/SmartSubv3.12.22026-11-05

    … VAD 开关,原生库崩溃也不影响应用;结果和 Windows 显卡驱动版本随诊断包导出,便于定位 GPU 加速闪退 Add "Whisper transcription diagnostics" to the diagnostics export dialog (Windows / Linux): test the Vulkan / C