分布式训练
张量并行、流水并行、ZeRO、通信优化。
开源本地 AI 推理引擎,无需 GPU 即可在任意硬件上跑 LLM、视觉、语音和图像生成模型,提供兼容 OpenAI 的 API。
高性能云原生向量数据库,专为大规模向量近似最近邻检索设计,适合搭建以图搜图、语义搜索和 RAG 等应用。
基于 PyTorch 的深度学习优化库,通过 ZeRO、模型并行和混合专家等技术,让千亿到万亿参数模型的分布式训练与推理更省显存、更高效。
一套面向大模型训练的分布式并行框架,把数据、模型、流水线并行和异构训练整合成统一接口,让训练和推理更省显存、更快。
高性能分布式图数据库,专为实时查询场景设计,支持知识图谱等大规模关联数据的存储与毫秒级检索。
Distributed training framework for TensorFlow, Keras, PyTorch, and Apache MXNet.
把 AI 研究与工程技能打包成可复用模块,接入 Claude Code、Codex、Gemini 等编码代理后即可获得完整科研能力。
开源分布式图数据库,支持水平扩展和高可用,适合存储超大规模图数据并做低延迟查询,可用于知识图谱和 GraphRAG 场景。
只需几行代码就能把 PyTorch 模型跑在任意设备或分布式配置上,自动处理混合精度(含 fp8)和 FSDP、DeepSpeed 配置,省去手写分布式训练样板代码的麻烦。
DeepSpeed 官方示例集,提供各类模型接入 DeepSpeed 分布式训练的现成代码,方便照着改自己的训练脚本。
Fault-tolerant, highly scalable GPU orchestration, and a machine learning framework designed for training models with billions to trillions of parameters
面向 AI 与多模态负载的高性能数据引擎,用 Rust 编写,能大规模处理图像、音频、视频和结构化数据,适合搭建 ETL 与数据管道。
CrateDB 是一个分布式可扩展的 SQL 数据库,基于 Lucene 构建并兼容 PostgreSQL,能近实时存储和分析海量数据,即使复杂查询也能应对。
用 Go 实现的分布式私有网络工具,把多台机器组成加密的虚拟内网,方便跨机房、跨云互联而不依赖中心网关。
在 Kubernetes 上跑分布式模型训练和大模型微调的框架,把多机多卡任务编排成 K8s 原生作业,省去自己搭训练集群的麻烦。
一款多模型数据库管理系统,用一套引擎同时支持图、文档、键值和向量嵌入,兼容 SQL、Cypher、Gremlin、MongoDB 与 Redis 协议,适合需要统一存储多种数据模型的场景。
把计算任务调度到数据所在节点上执行的分布式计算框架,省去大规模数据搬迁的开销,适合批处理、数据分析和生信流水线。
Ruby 写的 Consul HTTP 客户端,封装服务发现、KV 存储和分布式锁接口,方便 Ruby 应用接入 Consul 集群。
把家里已有的多台电脑组网成 AI 内网,统一跑大模型推理和微调训练,兼容 OpenAI 接口,适合本地部署和 homelab 场景。