标签：多机多卡
硬件标签，共 19 个项目。
开源本地 AI 推理引擎，无需 GPU 即可在任意硬件上跑 LLM、视觉、语音和图像生成模型，提供兼容 OpenAI 的 API。
高性能云原生向量数据库，专为大规模向量近似最近邻检索设计，适合搭建以图搜图、语义搜索和 RAG 等应用。
分布式 AI 计算引擎，提供核心分布式运行时和一组 AI 库，用来加速机器学习负载、大模型推理与超参搜索。
高性能分布式图数据库，专为实时查询场景设计，支持知识图谱等大规模关联数据的存储与毫秒级检索。
开源分布式图数据库，支持水平扩展和高可用，适合存储超大规模图数据并做低延迟查询，可用于知识图谱和 GraphRAG 场景。
Fault-tolerant, highly scalable GPU orchestration, and a machine learning framework designed for training models with billions to trillions of parameters
面向 AI 与多模态负载的高性能数据引擎，用 Rust 编写，能大规模处理图像、音频、视频和结构化数据，适合搭建 ETL 与数据管道。
CrateDB 是一个分布式可扩展的 SQL 数据库，基于 Lucene 构建并兼容 PostgreSQL，能近实时存储和分析海量数据，即使复杂查询也能应对。
用 Go 实现的分布式私有网络工具，把多台机器组成加密的虚拟内网，方便跨机房、跨云互联而不依赖中心网关。
Lingvo 是 Google 开源的序列建模框架，用 TensorFlow 搭建语音识别、机器翻译、语言模型等 NLP 任务，支持分布式 GPU 训练。
在 Kubernetes 上跑分布式模型训练和大模型微调的框架，把多机多卡任务编排成 K8s 原生作业，省去自己搭训练集群的麻烦。
自托管的分布式 CI/CD 平台，支持 GitHub、GitLab、Gitea 等 Git 源，用容器化方式跑流水线，适合想自己掌控构建与部署流程的团队。
开源 AI 工作站整机方案，覆盖 2 卡桌面到 8 卡服务器，提供 CAD 图纸、BOM 清单、BIOS 配置和装机指南，方便自建本地大模型推理机器。
一款多模型数据库管理系统，用一套引擎同时支持图、文档、键值和向量嵌入，兼容 SQL、Cypher、Gremlin、MongoDB 与 Redis 协议，适合需要统一存储多种数据模型的场景。
把计算任务调度到数据所在节点上执行的分布式计算框架，省去大规模数据搬迁的开销，适合批处理、数据分析和生信流水线。
Ruby 写的 Consul HTTP 客户端，封装服务发现、KV 存储和分布式锁接口，方便 Ruby 应用接入 Consul 集群。
把家里已有的多台电脑组网成 AI 内网，统一跑大模型推理和微调训练，兼容 OpenAI 接口，适合本地部署和 homelab 场景。
在 Kubernetes 上自托管大模型推理的 Operator，统一调度 NVIDIA、AMD、Apple Silicon 等异构 GPU，支持多卡分片、模型缓存和 OpenAI 兼容接口。
用 Rust + CUDA 写的 SSD 流式推理引擎，让消费级 16GB 显卡也能跑 743B 级 MoE 大模型，自动测 PCIe 带宽并分配注意力与热专家。