MLOps 平台
模型服务化与部署平台。
高性能大规模向量数据库与向量检索引擎，用 Rust 编写，支持 HNSW、混合检索和图像搜索，适合为 AI 应用和 RAG 提供相似度检索能力。
一份精选的机器学习生产化开源工具清单，覆盖模型部署、监控、版本管理和规模化扩展，帮你快速找到 MLOps 各环节的趁手工具。
给 AI Agent 做强化学习训练和调优的框架，把 Agent 的推理轨迹变成训练信号，让智能体越跑越强。
开源向量数据库，同时存储对象和向量，把向量检索和结构化过滤结合起来，具备云原生数据库的容错与扩展能力。
用 Python 编排数据管道和资产，把开发、生产到可观测性串起来，适合数据工程和 MLOps 场景。
DataTalks.Club 出品的免费 MLOps 实战课程，覆盖模型部署、监控和工作流编排，帮你把机器学习模型从实验推到生产环境。
Kedro 是一个面向生产环境的数据科学工具箱，用软件工程最佳实践帮你搭建可复现、易维护、模块化的数据工程与数据科学流水线。
低代码 AutoML 平台，几行 Python 代码就能完成分类、回归、聚类和异常检测的建模与调参，4.0 版改用 sklearn 原生引擎并加了 React 控制台。
面向 AI Agent 的多模态数据运行时，提供无服务器 Postgres 与数据湖，支持大规模检索和模型训练。
把训练好的模型快速封装成推理 API 和任务队列，支持 LLM 应用与多模型流水线，省去自己搭服务框架的麻烦。
在 Kubernetes 上统一部署生成式与预测式 AI 模型的推理平台，支持多框架、可扩展的分布式推理服务。
基于 PyTorch Lightning 和 Hydra 的深度学习实验模板，帮你快速搭好规范的项目结构、配置管理和可复现的训练流程。
一份精选的 MLOps 工具清单，把模型部署、实验跟踪、监控等环节的常用开源方案整理在一起，方便你按需挑选和对比。
一份持续更新的精选清单，收录真正开源的 AI 项目、模型、工具和基础设施，帮你在海量仓库里快速找到可用的开源方案。
汇集机器学习系统与大模型推理、训练、服务方向的顶会论文和工业实践，配视频教程，帮算法工程师系统补齐 AI Infra 知识。
轻量级 Python 大模型推理与服务框架，主打高吞吐、易扩展，适合快速部署 GPT、LLaMA 等模型对外提供 API 服务。
统一可扩展的分布式机器学习库，支持大规模训练、模型服务和联邦学习，还能跨云调度任意 AI 任务到 GPU 云或本地集群。
面向大模型推理与 GPU 训练的高性能存储引擎，用 Rust 编写，通过 RDMA 等技术提升模型加载和服务吞吐。
用一句自然语言提示就能自动构建机器学习模型，多智能体协作完成数据理解、特征工程和训练调参，省去手工搭流程的麻烦。
把远程机器上的 GPU 通过 IP 网络桥接给只有 CPU 的机器使用，让无显卡设备也能跑 CUDA 计算和推理任务。
NannyML 是 Python 的模型上线后监控库，能在没有真实标签的情况下估计模型性能，并检测数据漂移，帮你在生产环境及时发现模型退化。
开源机器学习数据库，提供特征平台，为训练和推理计算一致的特征，解决特征工程与线上线下特征不一致的问题。
面向机器学习工程与研究的智能体，能对接 arXiv 和 Papers with Code 检索论文，生成代码与研究方案，并支持 OpenAI、Anthropic、Gemini、Ollama 等模型。
把 Spark、scikit-learn 等训练好的机器学习流水线导出成统一格式，脱离原框架直接部署到生产环境做推理。
一个可直接用于生产的 MLOps Python 包模板，集成 MLflow、scikit-learn、Pydantic、Pandera 和 uv，帮你快速搭起带实验追踪与数据校验的机器学习工程骨架。
把 AI/ML 模型打包成可直接上线的推理服务，省去手写 Docker 和部署脚本的麻烦，一条命令就能跑起来。
一门讲高效深度学习系统的课程材料，覆盖 CUDA 编程、分布式训练和推理优化，帮你搞懂怎么把模型训得更快、跑得更省。
自包含的本地 AI 服务，开发者可将其嵌入并随应用分发，为软件快速添加目标检测、生成式 AI 等能力，无需自建模型部署流程。
一套从 Python 基础到生成式 AI 的数据科学实战教程，覆盖数据分析、深度学习、MLflow 与 Prefect 等 MLOps 工具链，适合系统学习并动手实践。
面向多模态机器学习的数据平台，支持图像标注、数据筛选与清洗，帮助团队管理训练数据并提升数据质量。
几分钟内就能在本地或远程部署任意 AI 模型、智能体、数据库、RAG 和流水线，省去繁琐的环境配置和运维工作。
汇总各家提供深度学习 GPU 算力的云服务商清单，方便按需挑选训练和推理用的云端 GPU 资源。
Google Cloud Vertex AI 的官方示例合集，提供 Notebook、代码和示例应用，演示如何开发、训练和管理机器学习与生成式 AI 工作流。
一套教你从零搭建、开发和维护现代 MLOps 代码库的实战课程，覆盖工程规范与最佳实践，适合想系统入门 MLOps 的数据科学和机器学习开发者。
在 Databricks 上快速搭建符合生产最佳实践的机器学习项目脚手架，开箱即用且可定制，省去从零配置 MLOps 流程的麻烦。
面向 RAG 场景的 AI 搜索数据库，支持语义检索与语言模型集成，帮开发者把非结构化数据变成可检索的知识库。
提供在 Google Cloud Vertex AI 上搭建端到端 MLOps 工作流的模板与示例，覆盖训练、部署到监控的完整流程，方便快速落地机器学习运维。
面向大模型的无服务器推理服务系统，通过多级检查点加载和 GPU 显存复用，实现低延迟、按需启动的 LLM 部署。
Meesho 开源的端到端机器学习基础设施栈，提供在线特征存储等组件，支撑印度规模下的实时与批量 ML 工作负载。
用 Cookiecutter 一键生成 FastAPI 项目骨架，内置机器学习、uv 依赖管理、GitHub Actions 和 Pytest，省去从零搭工程的时间。
基于 FastAPI 的机器学习模型服务骨架，帮你快速搭出可上生产环境的推理 API，省去从零写服务框架的功夫。
把训练好的 sklearn、XGBoost 等 ML 模型直接暴露成 LLM Agent 可调用的工具，省去自己写胶水代码，让 Agent 能调用传统模型做预测。