OSS Radar
首页
AI 分类
推理与服务5
大模型推理服务 · 向量化 / 重排服务 · 网关与路由
训练与微调6
训练框架 · 参数高效微调 · 后训练 / RLHF
数据工程4
数据集托管 · 数据清洗与处理 · 合成数据
检索与 RAG9
向量数据库 · RAG 框架 · 检索增强引擎
Agent 与编排6
Agent 框架 · 编码 Agent · 电脑 / 浏览器 Agent
评估 · 实验 · MLOps8
模型评测 · Agent 评测 · 实验管理
多模态生成5
图像生成 · 视频生成 · 视觉语言模型
视觉与 3D5
检测 / 分割 · 3D 重建 · 3D 生成
模型工具链8
量化 · 剪枝与蒸馏 · 格式转换
科研与论文实现3
论文复现 · 时序预测 · 科学计算 / 生物医药
开发工具
开发与框架5构建与交付4底层与逆向3
系统工具
系统与文件7图像与影音工具5实用小工具4
效率工具
记录与整理3输入与阅读4
媒体与内容
播放与媒体库4内容处理3
网络工具
访问与代理3连接与传输4
游戏相关
开发与运行2游玩相关2
安全与隐私
攻防与审计3加密与隐私1
硬件与机器人
嵌入式与物联网5机器人与具身智能3
数据与金融
数据库与存储4金融与量化1
探索排行榜开发语言标签
/
周报
本周新增、涨得最快、发了什么版本
对比项目
两个项目并排看 star、维护状态与硬件
数据体检
收录量、完整度缺口、沉睡项目
提交仓库
推荐项目,附上你的使用经验
反馈与纠错
分类错了、介绍不准、链接失效
关于本站
数据来源与分类原则
登录
OSS Radar

按算法工程工作流分类的开源工具库。数据来自 GitHub 公开 API,收录 6,740 个仓库、129 个细分分类。 带 ✦ 的条目有人工撰写的专家点评。

数据最近同步于 2026/11/11 14:07:13 · 本项目仅做聚合与索引,软件版权归原作者所有

浏览

  • 全部仓库
  • AI 分类
  • 排行榜
  • 开发语言
  • 标签与关键词
  • 搜索

关于

  • 关于本站
  • 数据体检
  • 提交仓库
  • 反馈与纠错
  • 偏好设置
  • 我的收藏
  • 我的点评
© 2026 OSS Radar数据每小时级同步 · 内容由算法与人工共同维护
⌘K
「GPU内核」找到 25 个结果 · 9ms命中词:内核gpu只看有点评
G
gvisor
google·Go

为容器提供用户态内核,在 Go 中实现 Linux 系统调用接口,让 Docker 和 Kubernetes 容器获得更强的安全隔离,同时保持 OCI 兼容。

容器沙箱+4
199620—
google/gvisor · 13.55
F
flashinfer
flashinfer-ai·Cuda

面向 LLM 推理服务的高性能 CUDA 内核库,提供注意力、MoE 等算子的 JIT 实现,用来加速 GPU 上的大模型推理。

推理加速+4
68950—
flashinfer-ai/flashinfer · 13.43
Z
zed
zed-industries·Rust

用 Rust 打造的高性能多人协作代码编辑器,由 Atom 和 Tree-sitter 作者开发,主打低延迟编辑与实时协同编码。

代码编辑器+4
947310—
zed-industries/zed · 13.4
B
burn
tracel-ai·Rust

Rust 写的张量库和深度学习框架,兼顾灵活性与效率,支持自动微分、跨平台后端和内核融合,可训练和部署神经网络。

深度学习框架+4
162670—
tracel-ai/burn · 13.32
T
triton
triton-lang·MLIR

Triton 是一门面向 GPU 编程的类 Python 语言及其编译器,让开发者不用写 CUDA 就能写出接近手写性能的高效内核。

GPU 编程+4
205540—
triton-lang/triton · 13.31
A
alacritty
alacritty·Rust

用 Rust 写的跨平台 GPU 加速终端模拟器,基于 OpenGL 渲染,主打高帧率和低延迟,适合嫌普通终端卡顿、想要更顺滑操作体验的开发者。

终端模拟器+4
661650—
alacritty/alacritty · 13.27
C
ColossalAI
hpcaitech·Python

一套面向大模型训练的分布式并行框架,把数据、模型、流水线并行和异构训练整合成统一接口,让训练和推理更省显存、更快。

分布式训练+4
414300—
hpcaitech/ColossalAI · 12.72
F
flash-attention
Dao-AILab·Python

快速且省显存的精确注意力实现,支持训练和推理,能显著加速 Transformer 长序列计算。

注意力机制+4
252740—
Dao-AILab/flash-attention · 12.44
E
engine
cactus-compute·C++

面向手机等消费级设备的 LLM 推理引擎,用 2bit 量化和手写内核把大模型塞进端侧运行,主打低显存、跨 Android/iOS 的 ARM 部署。

端侧推理+4
61880—
cactus-compute/engine · 12.36
R
RWKV-Runner
josStorer·TypeScript

8MB 的 RWKV 模型管理与启动工具,全自动部署推理,并提供兼容 OpenAI API 的接口,方便直接接入现有客户端。

RWKV+4
65010—
josStorer/RWKV-Runner · 12.02
V
vscode
microsoft·TypeScript

微软开源的跨平台代码编辑器,基于 Electron 和 TypeScript 构建,支持插件扩展、调试和 Git 集成,适合日常开发写代码。

代码编辑器+4
1953430—
microsoft/vscode · 11.9
L
lemonade
lemonade-sdk·C++

在本地 GPU 和 NPU 上直接跑优化后的大模型,帮用户发现并启动本地 AI 应用,省去自己折腾推理环境的麻烦。

本地推理+4
61820—
lemonade-sdk/lemonade · 11.89
L
Liger-Kernel
linkedin·Python

用 Triton 重写 LLM 训练中的 RMSNorm、RoPE、交叉熵等关键算子,减少显存占用并提升微调吞吐,兼容 Llama、Mistral、Gemma、Phi 等主流模型。

Triton算子+4
66950—
linkedin/Liger-Kernel · 11.72
E
executorch
pytorch·Python

PyTorch 官方的端侧推理框架,把训练好的模型导出并部署到手机、嵌入式和边缘设备上运行,覆盖 CPU、GPU 等多种后端。

端侧推理+4
51700—
pytorch/executorch · 11.67
M
mpv
mpv-player·C

轻量级命令行视频播放器,基于 FFmpeg 解码,支持硬件加速、字幕渲染和脚本扩展,适合在终端或嵌入其他应用中播放音视频。

命令行播放器+4
380630—
mpv-player/mpv · 11.61
R
recommenders
recommenders-team·Python

微软出品的推荐系统实践库,提供从数据准备、模型训练到部署上线的完整示例和最佳实践,帮算法工程师快速搭建推荐与排序模型。

推荐系统+4
219870—
recommenders-team/recommenders · 11.46
S
Scrapegraph-ai
ScrapeGraphAI·Python

用大语言模型驱动的 Python 爬虫,只需描述想抓什么,就能自动完成网页抓取和结构化数据提取,省去手写解析规则。

智能爬虫+4
327110—
ScrapeGraphAI/Scrapegraph-ai · 11.42
P
pytorch_geometric
pyg-team·Python

基于 PyTorch 的图神经网络库,提供图卷积等 GNN 模型的构建与训练组件,省去自己实现图数据结构和消息传递的麻烦。

图神经网络+4
241410—
pyg-team/pytorch_geometric · 11.22
R
runanywhere-sdks
RunanywhereAI·C++

一套能在手机和边缘设备上本地跑大模型、扩散模型和多模态推理的生产级 SDK,覆盖 Android、iOS、Flutter,省去自己搭推理链路的麻烦。

端侧推理+4
103390—
RunanywhereAI/runanywhere-sdks · 11.2
M
mpv.net
mpvnet-player·C#

Windows 上的现代图形界面媒体播放器,基于 libmpv 和 ffmpeg,支持命令行、Lua 与 JavaScript 脚本扩展,适合想要 mpv 内核又需要易用界面的用户。

媒体播放器+4
55550—
mpvnet-player/mpv.net · 10.9
L
LTX-Video
Lightricks·Python

LTX-Video 是 Lightricks 开源的视频生成模型,支持文生视频和图生视频,基于 DiT 扩散架构,可快速生成高质量短视频。

视频生成+4
113630—
Lightricks/LTX-Video · 10.64
T
tt-metal
tenstorrent·Python

面向 Tenstorrent 加速卡的 TT-NN 算子库和 TT-Metalium 底层内核编程模型,让大模型和图像生成模型能在非 GPU 硬件上高效推理。

算子库+4
17470—
tenstorrent/tt-metal · 9.6
L
llm-awq
mit-han-lab·Python

AWQ 是一种激活感知的权重量化方法,能在几乎不损失精度的情况下把大模型压到 4bit,并配合高效推理内核显著降低显存占用、提升推理速度。

权重量化+4
36640—
mit-han-lab/llm-awq · 9.58
G
graphsignal
graphsignal·Python

面向 AI Agent 的 GPU 性能分析器,能追踪 GPU 内核执行和推理过程,帮开发者定位性能瓶颈、优化显存与算力使用。

GPU 性能分析+4
2760—
graphsignal/graphsignal · 8.5
H
Hyperloom
AMD-AGI·Python

在 AMD GPU 上自动调优 LLM 推理负载的智能体系统,通过自动搜索和优化 GPU kernel 提升大模型推理性能。

AMD GPU+4
2670—
AMD-AGI/Hyperloom · 8.43