… and Elastic Infrastructure for Running AI-Generated Code
用自然语言描述操作步骤就能完成端到端测试,让 AI 像人一样看懂界面并驱动浏览器或手机执行验证。
Open-source context retrieval layer for AI agents
为 AI Agent 提供可持久化的长期记忆层,让智能体和应用能跨会话记住上下文,开箱即用、面向生产环境。
开源智能体技能构建器,用可视化工作流定义技能,可运行在 Claude Code、Cursor、Codex 等平台,并生成 API 或 Slack、飞书机器人。
把公司业务流程写成代码,用多智能体协作自动执行,可自托管或托管部署,让团队像操作操作系统一样管理公司。
汇集机器学习系统与大模型推理、训练、服务方向的顶会论文和工业实践,配视频教程,帮算法工程师系统补齐 AI Infra 知识。
系统梳理 GPU 架构、CUDA 编程、大模型基础与 AI Agent 的入门知识库,帮开发者补齐 AI 基础设施底层原理。
用基础设施即代码的方式管理生产环境本体,支持变更前评估影响范围、变更后回滚,并生成审计员可复核的形式化证明。
面向 2-4 年经验工程师的生产级机器学习基础设施学习路线,覆盖 Kubernetes、MLOps 与 DevOps 实践,帮你系统补齐 AI 基础设施技能。
开源云原生一站式机器学习与大模型平台,覆盖拖拉拽 pipeline 编排、多机多卡训练、推理服务和 MaaS,支持昇腾等国产异构算力调度。
提供基于 GPU 加速和微服务架构的生成式 AI 参考工作流,涵盖 RAG、LLM 推理等场景,帮你在 Triton、TensorRT 等基础设施上快速搭建可落地的服务。
用 Rust 写的便携式 SQL 查询、搜索与 LLM 推理引擎,给业务数据库加一个实时分析节点,让 AI 应用和智能体直接基于数据做推理。
把多个 AI 编码代理组织成可协作的团队,统一调度与运行时管理,让 Claude Code 等代理像公司部门一样分工干活。
可见光-红外成对图像数据集,专为低光照视觉任务设计,可用于图像融合、图像翻译和目标检测等模型的训练与评测。
一条命令行就能让 AI 智能体读取和搜索 Twitter、Reddit、YouTube、GitHub、B站、小红书等平台内容,不用付任何 API 费用。
面向智能体的 RAG 检索引擎,把文档解析、知识编译和上下文管理整合成一套基础设施,帮 Agent 稳定拿到高质量检索结果。
用声明式 YAML 编排数据管道、基础设施、业务流程和 AI Agent 的开源控制平面,事件驱动、支持任意语言、可 Git 版本化,能扛住百万级执行。
把散落的 SKILL.md 文件整理成可检索、可评测的智能体技能语料库,自带检索与评测工具,方便给 Agent 搭建技能库。
字节开源的多模态 AI Agent 桌面栈,把前沿模型和 Agent 基础设施连起来,让 Agent 能像人一样操作 GUI、浏览器和电脑完成任务。
Go 编写的高性能 AI 网关,统一接入 30+ 家 LLM 服务商,内置缓存、护栏、A/B 测试和成本控制,可替代 LiteLLM 与 Kong AI Gateway。
开源的 Agent 运行时,让团队在自己的基础设施上部署智能体,全程掌控运行环境与数据。
用 Rust 写的轻量级自主 AI 个人助理基础设施,跨操作系统和平台部署,组件可自由替换。
实时全球情报仪表盘,用 AI 聚合新闻、监控地缘政治与基础设施动态,把分散信息整合进统一的态势感知界面。
给 AI Agent 提供安全、快速、可扩展的沙箱运行时,基于 Kubernetes 隔离执行环境,防止智能体代码越权或污染宿主。
面向 AI 智能体的图原生上下文基础设施,用上下文图谱管理记忆与决策依据,让 AI 系统的行为可追溯、可问责。
把代码、文档和基础设施连成一张持久化图谱,为开发者和 AI 代理提供本地代码智能检索,还能按改动挑选测试。
在 Kubernetes 上编排 ML 流水线、智能体和实时推理的类型安全分布式引擎,用纯 Python 的 async/await 写工作流,也支持 Rust、Go 和 TS。
开箱即用的浏览器沙箱 API,让 AI Agent 和应用直接调用无头浏览器完成网页自动化,省去自建基础设施的麻烦。
面向 AI/ML 工作流的 Python 编排框架,用装饰器写 DAG,支持本地到 Kubernetes、多云部署,并带实验追踪和成本优化。
把分散在多家云上的 GPU 资源统一调度成一台「AI 超算」,自动选最便宜的可用算力跑训练、微调和推理任务,省去手动比价与跨云管理。
给 AI Agent 提供持久化记忆的基础设施层,把对话和执行过程转成结构化状态,兼容任意 LLM,可直接接入现有数据设施,支持云上和本地部署。
Meshery 是一个云原生管理平台,用可视化方式统一管理 Kubernetes 和多集群基础设施,支持 GitOps、服务网格与 IaC 配置。
开源的向量数据库,专门给 AI 应用做检索基础设施,支持 RAG、语义搜索和智能体记忆存储,底层用 Rust 重写后性能更强。
用 Python 编排数据管道的工作流框架,带重试、调度和可观测性,让数据与 ML 流水线在生产环境稳定跑起来。
面向不可预测增长的 Agent 负载设计的分布式数据库,原生支持事务、分析与向量检索,避免数据孤岛和资源争抢。
自托管的零信任访问平台,集反向代理、SSO 和 NAT 穿透于一体,让用户安全连接内网应用、基础设施和 AI 服务。
基于 OpenTelemetry 的开源可观测性平台,把日志、指标和链路追踪集中到一处,提供 APM、分布式追踪和基础设施监控,帮团队快速定位线上问题。
给 LLM 应用提供本地持久化记忆存储,让 Claude Desktop、Copilot、Codex 等智能体跨会话记住上下文,不用把数据传到云端。
自托管的统一 Agent Harness 接口,用一套 API 就能跑 Codex、Claude Code、Hermes 等多个编码智能体,统一处理会话、流式输出、文件和失败重试。
…homepage by @yuyutaotao in https://github.com/web-infra-dev/midscene/pull/3341 feat(test): add summary badges and improve badge site metadata by @yuyutaotao in https://gi
…n 提交 [3bdcb4fcab73](https://github.com/bojieli/ai-infra-book/commit/3bdcb4fcab73010eeaccf31cc10a8242a895d82e) 构建。 语言 PDF EPUB 网页 --- --- --- --- 简体中文 [AI-Infra-Book.pdf](
…n 提交 [15c8c088466d](https://github.com/bojieli/ai-infra-book/commit/15c8c088466d6eac6c0e461116988574d4224c1a) 构建。 语言 PDF EPUB 网页 --- --- --- --- 简体中文 [AI-Infra-Book.pdf](
…n 提交 [ec192fa23fa5](https://github.com/bojieli/ai-infra-book/commit/ec192fa23fa5e4cfc74e86e8816187fc441ff8c9) 构建。 语言 PDF EPUB 网页 --- --- --- --- 简体中文 [AI-Infra-Book.pdf](
…n 提交 [df0fbdc0fe4c](https://github.com/bojieli/ai-infra-book/commit/df0fbdc0fe4ce35f4a9b6c32e4d5dac62c2e793d) 构建。 语言 PDF EPUB 网页 --- --- --- --- 简体中文 [AI-Infra-Book.pdf](
…n 提交 [8f58d3fde5c1](https://github.com/bojieli/ai-infra-book/commit/8f58d3fde5c1e414de1292bcfe510b2f4e3cfa28) 构建。 语言 PDF EPUB 网页 --- --- --- --- 简体中文 [AI-Infra-Book.pdf](