LLM 可观测
调用链、提示词、成本与质量追踪。
开源 LLM 应用可观测与评估平台，能追踪调用链路、跑评测实验，帮团队定位问题并持续优化提示词和模型效果。
基于 OpenTelemetry 的开源可观测性平台，把日志、指标和链路追踪集中到一处，提供 APM、分布式追踪和基础设施监控，帮团队快速定位线上问题。
分布式系统的应用性能监控平台，支持链路追踪、指标采集和日志分析，帮你在微服务架构下快速定位性能瓶颈。
一份自托管指南，教你在本地或私有服务器上部署和管理软件应用，涵盖云服务、大模型、WireGuard、自动化、Home Assistant 与网络配置。
CNCF 出品的分布式追踪平台，采集服务调用链路并做可视化分析，帮你在微服务和 LLM 应用里定位延迟与故障根因。
开源可观测性平台，统一收集日志、指标、链路、RUM 和会话回放，单二进制部署，存储成本比 Datadog、Splunk、Elasticsearch 低约 140 倍。
Elasticsearch 的可视化分析平台，用仪表盘、图表和指标面板把日志与可观测性数据变成可交互的探索视图。
一套 TypeScript 函数式编程框架，内置并发、依赖注入、错误处理和可观测性等能力，帮你在生产环境里写出类型安全、易维护的应用。
Zipkin 是一个分布式追踪系统，用于收集和查看微服务间的调用链路与耗时，帮助定位跨服务延迟和故障。
面向 AI Agent 的实时分析与混合检索数据库，兼容 Iceberg、Hudi、Delta Lake 等湖仓格式，让 Agent 能低延迟查询海量数据。
面向 Agent 应用的 Python 可观测性 SDK，支持对 Agent、LLM 和工具调用做追踪、调试与评测，自带可自托管面板，用时间线和执行图看清多智能体系统的运行过程。
用 eBPF 直接抓取 SSL/TLS 明文流量，无需中间人代理或安装自定义 CA 证书，支持 Linux 和 Android 的 x86_64、arm64、loong64 架构。
给 Prometheus 加上跨集群高可用和长期存储能力，把多个 Prometheus 实例的数据聚合成全局可查询的指标视图。
面向大规模分布式系统的应用性能管理工具，通过分布式追踪和监控，帮你定位跨服务调用中的性能瓶颈。
开源企业级 Agent 平台，把智能体、工作流、RAG 知识库和模型管理整合在一起，方便企业搭建、部署和运维 AI 应用。
持续性能分析平台，能定位到具体代码行，帮你排查 CPU、内存等性能瓶颈，适合生产环境做可观测性监控。
TensorZero is an open-source LLMOps platform that unifies an LLM gateway, observability, evaluation, optimization, and experimentation.
汇集全球科技公司公开的 SRE 实践资料，涵盖告警、混沌工程、事故响应、可观测性等主题，方便团队借鉴落地的运维与稳定性方案。
开源全栈监控平台，集错误监控、会话回放、日志和分布式追踪于一体，适合自建可观测性体系。
用 Rust 构建模块化、可扩展 LLM 应用的框架，把模型调用、Agent 编排和工具集成做成可组合组件，适合追求性能与类型安全的团队。
给 AI Agent 运行框架加上可观测与策略执行层，记录每次运行轨迹，并实时拦截违规行为，提升运行时可靠性。
开源可观测性与 APM 平台，整合指标、日志、链路追踪、持续剖析和 SLO 告警，借助 AI 自动定位故障根因。
开源的一体化监控与可观测性平台，集告警、值班排班、事件响应和状态页于一身，帮团队快速发现并处理线上故障。
OpenTelemetry 的可观测性数据收集器，统一接收、处理和导出指标、日志、链路等遥测数据，帮你在不同后端之间解耦采集与上报。
基于 OpenTelemetry 的 LLM 应用可观测性工具，能追踪调用链、采集指标并监控模型表现，帮你在生产环境定位 GenAI 应用的性能与质量问题。
开源的实时可观测性系统，通过 Agent 采集指标、日志并接入 LLM 智能分析，替代 Grafana 等传统监控方案做告警通知。
一站式 MLOps/LLMOps 平台，把实验跟踪、数据管理、流水线编排和模型服务整合在一起，帮团队把 AI 训练与部署流程自动化。
Ship AI Agents to Google Cloud in minutes, not months. Production-ready templates with built-in CI/CD, evaluation, and observability.
无需重启或改代码，就能把动态追踪脚本挂到运行中的 JVM 上，安全地做线上诊断和性能观测。
一份精选的 LLMOps 工具清单，帮开发者快速找到大模型应用开发、部署、监控和评估各环节的趁手工具。
Python SDK，用于监控 AI 智能体运行、追踪 LLM 调用成本并做基准评测，兼容 CrewAI、LangChain、AutoGen 等主流智能体框架。
抓取 Claude Code 和 Codex 实际发给 API 的请求，逐段拆解 token 消耗与费用，帮你看清每次调用钱花在哪。
面向 MLOps 与 LLM 工作流的可扩展平台，把数据管道、模型训练到 Agent 部署串成可复现流程，并统一追踪元数据与实验。
从 LLM 基础讲到用 LLMOps 最佳实践把 RAG 应用部署到 AWS 的实战手册，覆盖微调、评估与 ML 系统设计。
Grafana Mimir 是 Prometheus 的横向可扩展、高可用、多租户长期存储方案，解决大规模指标数据的持久化与查询问题。
开箱即用的状态页系统，自带监控与可观测能力，用 Docker 部署即可对外展示服务健康状态。
基于 Git 原生的特性开关管理方案，把开关配置纳入版本控制，方便团队在持续交付中安全地灰度发布和回滚。
Java 应用可观测性门面，统一对接主流监控系统，像 SLF4J 之于日志那样屏蔽底层差异，采集指标无需绑定具体后端。
用 Rust 写 eBPF 程序的库，主打开发体验和可运维性，省去 C 工具链和内核头文件依赖，编译即用。
面向生产环境 LLM 与 Agent 系统的可观测平台，基于 OpenTelemetry 采集日志、指标和调用链，支持评估与调试。
一份精选的 DevOps 资源清单，汇总平台、工具、实践和可观测性资料，帮工程师快速找到生产环境与 SRE 相关的靠谱方案。
一套 12 节动手课程，带你用 LLMOps 最佳实践从零搭建可上线的 LLM 与 RAG 系统，覆盖数据采集、训练、推理到部署全流程。
基于 OpenTelemetry 的开源 APM，用 ClickHouse 存储 traces、metrics 和 logs，可自托管做应用性能监控与分布式追踪。
给 Claude Code 补上的可视化调试面板，能直观查看会话日志、工具调用、token 消耗、子代理和上下文窗口占用，方便排查 AI 编码代理的运行问题。
Datadog 官方监控代理，用 Go 编写，统一采集指标、日志、APM 链路追踪和 OpenTelemetry 数据，帮你在生产环境搭建可观测性。
Agent Skills as a Memory Layer
基于 OpenTelemetry Collector 的可编程遥测数据管道，用声明式配置把指标、日志和链路统一采集、处理并转发到 Grafana、Prometheus、Loki 等后端。
Kiali 是 Istio 服务网格的可观测性控制台，用拓扑图展示服务间流量、健康状态和配置，帮运维快速定位网格里的异常。
给 Express 应用加一行中间件就能得到实时监控页面，查看 CPU、内存、响应时间和请求状态，类似 GitHub 状态页。
基于 ASM 字节码增强的高性能 Java APM，以 Java Agent 方式无侵入采集方法耗时、JVM 和线程指标，帮你在生产环境低成本做性能监控与诊断。
面向开发者的开源 LLMOps 平台，把提示词设计、版本管理、即时下发、团队协作和可观测性串成一条流水线，省去自己拼凑工具的成本。
The Security Toolkit for LLM Interactions
一个动态 AI Agent 自动化平台，能跨不同模型供应商编排指令管理和复杂任务执行，内置自适应记忆与插件系统。
面向后端的网络请求检查工具，能抓取并查看服务发出的 HTTP 调用，方便排查接口问题和调试线上行为。
面向性能敏感场景的超低延迟异步 C++17 日志与指标库，用异步写入避免日志拖慢主线程。
用 Python 函数声明式定义数据流，自动生成可测试、带血缘追踪的 DAG，省去手写编排代码，适合数据工程和特征工程。
基于 eBPF 的 Linux 终端网络流量嗅探工具，用 TUI 界面实时查看内核层抓包结果，排查网络和安全问题不用再开笨重的图形工具。
用状态机和图结构搭建聊天机器人、智能体等决策型应用，自带监控、追踪与持久化，可跑在自己的基础设施上。
用 Rust 构建的统一基础设施可观测平台，基于数据湖架构统一采集日志、指标、链路和事件，靠列式遥测压缩把存储成本最多降低 90%。
CNCF 沙箱孵化的可观测性可视化平台，用一套仪表盘统一展示 Prometheus、Tempo、Loki、Pyroscope 等数据源的监控指标与追踪信息。