OSS Radar
首页
AI 分类
推理与服务5
大模型推理服务 · 向量化 / 重排服务 · 网关与路由
训练与微调6
训练框架 · 参数高效微调 · 后训练 / RLHF
数据工程4
数据集托管 · 数据清洗与处理 · 合成数据
检索与 RAG9
向量数据库 · RAG 框架 · 检索增强引擎
Agent 与编排6
Agent 框架 · 编码 Agent · 电脑 / 浏览器 Agent
评估 · 实验 · MLOps8
模型评测 · Agent 评测 · 实验管理
多模态生成5
图像生成 · 视频生成 · 视觉语言模型
视觉与 3D5
检测 / 分割 · 3D 重建 · 3D 生成
模型工具链8
量化 · 剪枝与蒸馏 · 格式转换
科研与论文实现3
论文复现 · 时序预测 · 科学计算 / 生物医药
开发工具
开发与框架5构建与交付4底层与逆向3
系统工具
系统与文件7图像与影音工具5实用小工具4
效率工具
记录与整理3输入与阅读4
媒体与内容
播放与媒体库4内容处理3
网络工具
访问与代理3连接与传输4
游戏相关
开发与运行2游玩相关2
安全与隐私
攻防与审计3加密与隐私1
硬件与机器人
嵌入式与物联网5机器人与具身智能3
数据与金融
数据库与存储4金融与量化1
探索排行榜开发语言标签
/
周报
本周新增、涨得最快、发了什么版本
对比项目
两个项目并排看 star、维护状态与硬件
数据体检
收录量、完整度缺口、沉睡项目
提交仓库
推荐项目,附上你的使用经验
反馈与纠错
分类错了、介绍不准、链接失效
关于本站
数据来源与分类原则
登录
OSS Radar

按算法工程工作流分类的开源工具库。数据来自 GitHub 公开 API,收录 6,740 个仓库、129 个细分分类。 带 ✦ 的条目有人工撰写的专家点评。

数据最近同步于 2026/11/11 14:07:13 · 本项目仅做聚合与索引,软件版权归原作者所有

浏览

  • 全部仓库
  • AI 分类
  • 排行榜
  • 开发语言
  • 标签与关键词
  • 搜索

关于

  • 关于本站
  • 数据体检
  • 提交仓库
  • 反馈与纠错
  • 偏好设置
  • 我的收藏
  • 我的点评
© 2026 OSS Radar数据每小时级同步 · 内容由算法与人工共同维护
⌘K
「分布式训练」找到 53 个结果 · 13ms命中词:分布式训练training只看有点评
P
Paddle
PaddlePaddle·C++

飞桨核心框架,提供深度学习与机器学习的高性能单机及分布式训练能力,并支持跨平台部署,适合工业级模型开发。

深度学习框架+4
241420—
PaddlePaddle/Paddle · 12.12
D
DeepSpeed
deepspeedai·Python

基于 PyTorch 的深度学习优化库,通过 ZeRO、模型并行和混合专家等技术,让千亿到万亿参数模型的分布式训练与推理更省显存、更高效。

分布式训练+4
433210—
deepspeedai/DeepSpeed · 11.8
H
higgsfield
higgsfield-ai·Jupyter Notebook

…machine learning framework designed for training models with billions to trillions of parameters

62950—
higgsfield-ai/higgsfield · 11.39
A
accelerate
huggingface·Python

只需几行代码就能把 PyTorch 模型跑在任意设备或分布式配置上,自动处理混合精度(含 fp8)和 FSDP、DeepSpeed 配置,省去手写分布式训练样板代码的麻烦。

分布式训练+4
99400—
huggingface/accelerate · 11.33
C
ColossalAI
hpcaitech·Python

一套面向大模型训练的分布式并行框架,把数据、模型、流水线并行和异构训练整合成统一接口,让训练和推理更省显存、更快。

分布式训练+4
414280—
hpcaitech/ColossalAI · 11.23
D
DeepSpeedExamples
deepspeedai·Python

DeepSpeed 官方示例集,提供各类模型接入 DeepSpeed 分布式训练的现成代码,方便照着改自己的训练脚本。

分布式训练+4
68450—
deepspeedai/DeepSpeedExamples · 11.2
C
cube-studio
tencentmusic

云原生一站式机器学习与大模型平台,覆盖 Notebook 开发、拖拉拽 Pipeline 编排、分布式训练、超参搜索、推理服务和 SFT/强化学习微调,支持国产算力生态。

云原生+4
50840—
tencentmusic/cube-studio · 10.81
A
AI-Research-SKILLs
Orchestra-Research·TeX

把 AI 研究与工程技能打包成可复用模块,接入 Claude Code、Codex、Gemini 等编码代理后即可获得完整科研能力。

AI 研究技能库+4
144590—
Orchestra-Research/AI-Research-SKILLs · 10.67
P
PaddleNLP
PaddlePaddle·Python

基于飞桨的 NLP 与大模型开发库,提供丰富模型库,覆盖 BERT、ERNIE、LLaMA 等,支持分布式训练、压缩和文档智能等任务。

大模型开发库+4
129890—
PaddlePaddle/PaddleNLP · 10.46
T
torchtitan
pytorch·Python

PyTorch 官方的生成式 AI 模型训练平台,提供原生分布式训练组件和可复用的并行策略,帮你在多卡集群上高效训练大模型。

训练框架+4
58930—
pytorch/torchtitan · 10.37
M
metaflow
Netflix·Python

面向 AI/ML 工作流的 Python 编排框架,用装饰器写 DAG,支持本地到 Kubernetes、多云部署,并带实验追踪和成本优化。

工作流编排+4
103440—
Netflix/metaflow · 10.26
R
rllm
rllm-org·Python

面向大语言模型的强化学习训练框架,支持分布式训练与智能体工作流,让开发者能低成本训练和调优推理模型。

强化学习+4
59160—
rllm-org/rllm · 10.16
S
SynapseML
microsoft·Scala

基于 Spark 的分布式机器学习库,把 LightGBM、深度学习、认知服务等算法封装成易用 API,让大数据场景下的训练和推理可以直接在集群上跑。

分布式机器学习+4
52550—
microsoft/SynapseML · 10.14
M
Megatron-LM
NVIDIA·Python

NVIDIA 的大规模 Transformer 训练框架,支持张量并行、流水线并行等模型并行策略,用来在成百上千张 GPU 上高效预训练大语言模型。

大模型训练+4
183770—
NVIDIA/Megatron-LM · 9.68
D
detectron2
facebookresearch·Python

Detectron2 是 Facebook 开源的目标检测与分割平台,提供模块化架构和丰富预训练模型,方便快速搭建和训练视觉识别任务。

目标检测+4
349830—
facebookresearch/detectron2 · 9.64
D
dgraph
dgraph-io·Go

高性能分布式图数据库,专为实时查询场景设计,支持知识图谱等大规模关联数据的存储与毫秒级检索。

图数据库+4
218260—
dgraph-io/dgraph · 9.59
M
milvus
milvus-io·Go

高性能云原生向量数据库,专为大规模向量近似最近邻检索设计,适合搭建以图搜图、语义搜索和 RAG 等应用。

向量数据库+4
466440—
milvus-io/milvus · 9.55
L
LocalAI
mudler·Go

开源本地 AI 推理引擎,无需 GPU 即可在任意硬件上跑 LLM、视觉、语音和图像生成模型,提供兼容 OpenAI 的 API。

推理引擎+4
503200—
mudler/LocalAI · 9.52
V
verl
verl-project·Python

面向大模型后训练的强化学习框架,用混合编程模型把 RLHF 训练流程编排得灵活又高效,方便扩展和跑大规模实验。

强化学习+4
241990—
verl-project/verl · 9.47
P
pytorch-lightning
Lightning-AI·Python

统一的 PyTorch 训练框架,让同一份代码在单卡到上万张 GPU 上都能跑,免去改代码就能做预训练和微调。

深度学习训练+4
314490—
Lightning-AI/pytorch-lightning · 9.47
L
llm-action
liguodongiot·HTML

汇集大模型技术原理与实战经验的开源知识库,覆盖训练、推理、部署和工程化落地全流程,适合系统学习大模型应用开发。

大模型工程化+4
252730—
liguodongiot/llm-action · 9.42
S
stable-baselines3
DLR-RM·Python

基于 PyTorch 的强化学习算法库,提供 PPO、SAC、TD3 等常用算法的可靠实现,开箱即用,适合机器人控制和仿真环境训练。

强化学习+4
140040—
DLR-RM/stable-baselines3 · 9.32
T
train-llm-from-scratch
FareedKhan-dev·Python

从下载数据到生成文本,手把手教你从零训练自己的大语言模型,适合想搞懂 LLM 训练全流程的开发者动手实践。

大模型训练+4
131970—
FareedKhan-dev/train-llm-from-scratch · 9.32
O
open_clip
mlfoundations·Python

开源实现的 CLIP 多模态模型,提供图像-文本对比学习训练与预训练权重,支持零样本图像分类和跨模态检索。

多模态嵌入+4
142570—
mlfoundations/open_clip · 9.17
N
nebula
vesoft-inc·C++

开源分布式图数据库,支持水平扩展和高可用,适合存储超大规模图数据并做低延迟查询,可用于知识图谱和 GraphRAG 场景。

图数据库+4
124670—
vesoft-inc/nebula · 9.08
K
kubeflow
kubeflow

基于 Kubernetes 的云原生机器学习平台,把训练、流水线编排、模型服务和 Notebook 开发统一到容器化集群里,解决 MLOps 各环节割裂、难以规模化调度的问题。

云原生+4
159600—
kubeflow/kubeflow · 9.01
N
nccl
NVIDIA·C++

NVIDIA 官方多 GPU 集合通信库,提供 all-reduce、broadcast 等优化通信原语,是分布式深度学习训练中跨卡数据同步的底层依赖。

多GPU通信+4
52250—
NVIDIA/nccl · 8.87
S
skypilot
skypilot-org·Python

把分散在多家云上的 GPU 资源统一调度成一台「AI 超算」,自动选最便宜的可用算力跑训练、微调和推理任务,省去手动比价与跨云管理。

多云调度+4
108220—
skypilot-org/skypilot · 8.86
O
OpenRLHF
OpenRLHF·Python

基于 Ray 的高性能 RLHF 训练框架,支持 PPO、DAPO、REINFORCE++ 等算法与 vLLM 推理加速,可扩展地完成大模型和视觉语言模型的对齐后训练。

RLHF+4
101490—
OpenRLHF/OpenRLHF · 8.83
T
transformerlab-app
transformerlab·Python

面向 AI 研究者的开源实验环境,可在本地硬件到 GPU 集群之间无缝训练、评估和扩展大模型与扩散模型。

模型训练+4
52000—
transformerlab/transformerlab-app · 8.77
F
Fengshenbang-LM
IDEA-CCNL·Python

封神榜大模型是 IDEA 研究院开源的中文大模型体系,提供预训练模型、分布式训练和多模态能力,为中文 AIGC 与认知智能应用提供基础模型支撑。

中文大模型+4
41180—
IDEA-CCNL/Fengshenbang-LM · 8.69
D
Daft
Eventual-Inc·Rust

面向 AI 与多模态负载的高性能数据引擎,用 Rust 编写,能大规模处理图像、音频、视频和结构化数据,适合搭建 ETL 与数据管道。

多模态数据处理+4
58440—
Eventual-Inc/Daft · 8.69
C
catalyst
catalyst-team·Python

一套加速深度学习研发的 PyTorch 高层框架,提供可复用的训练循环、分布式训练和指标回调,省去反复搭训练脚手架的时间。

训练框架+4
33890—
catalyst-team/catalyst · 8.6
T
trainer
kubeflow·Go

在 Kubernetes 上跑分布式模型训练和大模型微调的框架,把多机多卡任务编排成 K8s 原生作业,省去自己搭训练集群的麻烦。

分布式训练+4
22790—
kubeflow/trainer · 8.52
M
mmengine
open-mmlab·Python

OpenMMLab 生态的深度学习训练基础库,统一封装训练循环、配置系统和分布式训练等底层能力,让算法开发者专注模型本身而不用重复搭建训练脚手架。

训练框架+4
15040—
open-mmlab/mmengine · 8.42
M
ms-swift
modelscope·Python

一站式大模型训练框架,支持 600+ 纯文本大模型和 300+ 多模态大模型的 CPT、SFT、DPO、GRPO 等训练,可用 LoRA 等 PEFT 方式或全参数微调。

训练框架+4
160900—
modelscope/ms-swift · 8.34
M
meshbird
meshbird·Go

用 Go 实现的分布式私有网络工具,把多台机器组成加密的虚拟内网,方便跨机房、跨云互联而不依赖中心网关。

分布式网络+4
35310—
meshbird/meshbird · 8.24
E
efficient-dl-systems
mryab·Jupyter Notebook

一门讲高效深度学习系统的课程材料,覆盖 CUDA 编程、分布式训练和推理优化,帮你搞懂怎么把模型训得更快、跑得更省。

分布式训练+4
10510—
mryab/efficient-dl-systems · 8.2
A
Automodel
NVIDIA-NeMo·Python

基于 PyTorch 原生分布式训练的 LLM/VLM 训练库,开箱即用兼容 Hugging Face,方便微调 Llama、Gemma、GLM 等主流大模型。

分布式训练+4
10820—
NVIDIA-NeMo/Automodel · 8.1
L
lingvo
tensorflow·Python

Lingvo 是 Google 开源的序列建模框架,用 TensorFlow 搭建语音识别、机器翻译、语言模型等 NLP 任务,支持分布式 GPU 训练。

序列建模+4
28680—
tensorflow/lingvo · 8.01

发布说明里提到「分布式训练」

来自 6 个版本
  • PaddlePaddle/Paddlev3.4.02026-09-11

    …围绕大模型训练的训练效率、算子正确性、稳定性以及国产硬件适配等关键领域持续迭代。本版本新增面向大规模分布式训练的高性能 Muon 优化器;持续打磨核心算子的数值精度,并针对大模型训练中高频出现的大 Shape Tensor、0-Size Tensor 场景做了系统性的正确性排查与修复,进一步夯实大模型训练的稳定性与正确性。同时,生态兼容能

  • shibing624/MedicalGPT2.5.02026-04-07

    …本中自动检测并设置 set z3 leaf modules,确保 DeepSpeed ZeRO-3 分布式训练下 MoE 模块不会被错误分片。同时兼容已有的 Mixtral 和 DeepSeek-V3 MoE 模型。 项目结构重组 将根目录 38 个散落文件按功能重组到 5 个子目录,提升教学仓库的可读性: MedicalGPT/ ├──

  • PaddlePaddle/Paddlev3.2.22025-12-08

    …版本在分布式并行、算子机制、硬件适配三个方面完成多项优化与升级,进一步提升框架性能与稳定性。 1. 分布式训练 - 优化 FlexCheckpoint 的重切分通信流程; 为 paddle.nn.Layer 新增 full 接口, 用于返回完整模型参数; 支持加载 HuggingFace 开源格式的 Checkpoint。([ 76249

  • tencentmusic/cube-studiov2025.09.012025-11-07

    …- 修正大模型推理的启动命令 - 优化mindie模型的发布功能 - 优化llamafactory 分布式训练 - 增加llamafactory分布式示例 - 升级llama factory 支持多模态大模型训练 - 升级gpt5 - 支持vllm推理框架 - 丰富模型量化支持“gptq","awq","gguf","hf quantiz

  • data-infra/cube-studiov2025.09.012025-10-27

    …- 修正大模型推理的启动命令 - 优化mindie模型的发布功能 - 优化llamafactory 分布式训练 - 增加llamafactory分布式示例 - 升级llama factory 支持多模态大模型训练 - 升级gpt5 - 支持vllm推理框架 - 丰富模型量化支持“gptq","awq","gguf","hf quantiz

  • PaddlePaddle/Paddlev3.1.12025-08-21

    …大模型训练的正确性和稳定性;性能层面,在提高部分关键框架API和FP8场景下的量化计算效率的同时增强分布式训练场景下FP8量化和流水线并行效率,大幅提升训练吞吐。扩展自动并行架构的切分推导覆盖范围;推理部署提高兼容性的同时进一步增强EP并行推理能力;整体上在保持API兼容性的基础上构建出更稳健、高效的大模型研发技术底座。 算子与执行体系正