基于 OpenTelemetry 的 LLM 应用可观测性工具，能追踪调用链、采集指标并监控模型表现，帮你在生产环境定位 GenAI 应用的性能与质量问题。
从 LLM 基础讲到用 LLMOps 最佳实践把 RAG 应用部署到 AWS 的实战手册，覆盖微调、评估与 ML 系统设计。
The Security Toolkit for LLM Interactions
基于 OpenTelemetry 的 TypeScript LLM 应用可观测性工具，帮开发者追踪调用链、采集指标并监控模型运行状态。
统一的多模型 LLM 网关，把 Claude、Gemini、DeepSeek 等上游统一接入，提供权重负载均衡、可观测性和调用费用追踪，适合多模型混用场景。
汇总大模型全栈优质资源的清单，覆盖训练、推理、LLMOps 等环节，帮开发者快速找到需要的工具和资料。
一套基于 Jupyter Notebook 的大模型实战教程和示例脚本，覆盖 LangChain、OpenAI、LlamaIndex、ChromaDB、Pinecone 等主流工具，帮你快速上手 LLM 应用开发。
开源 LLM 应用可观测与评估平台，能追踪调用链路、跑评测实验，帮团队定位问题并持续优化提示词和模型效果。
基于 OpenTelemetry 的开源可观测性平台，把日志、指标和链路追踪集中到一处，提供 APM、分布式追踪和基础设施监控，帮团队快速定位线上问题。
把 LLM 应用从原型推进到生产环境的框架，集成了 LangChain、MLflow、OpenAI 和 Vertex AI，方便管理提示词与模型部署。
CNCF 出品的分布式追踪平台，采集服务调用链路并做可视化分析，帮你在微服务和 LLM 应用里定位延迟与故障根因。
Elasticsearch 的可视化分析平台，用仪表盘、图表和指标面板把日志与可观测性数据变成可交互的探索视图。
Zipkin 是一个分布式追踪系统，用于收集和查看微服务间的调用链路与耗时，帮助定位跨服务延迟和故障。
开源可观测性平台，统一收集日志、指标、链路、RUM 和会话回放，单二进制部署，存储成本比 Datadog、Splunk、Elasticsearch 低约 140 倍。
TensorZero is an open-source LLMOps platform that unifies an LLM gateway, observability, evaluation, optimizatio…
面向 Agent 应用的 Python 可观测性 SDK，支持对 Agent、LLM 和工具调用做追踪、调试与评测，自带可自托管面板，用时间线和执行图看清多智能体系统的运行过程。
一套 TypeScript 函数式编程框架，内置并发、依赖注入、错误处理和可观测性等能力，帮你在生产环境里写出类型安全、易维护的应用。
Ship AI Agents to Google Cloud in minutes, not months. Production-ready templates with built-in CI/CD, evaluation, and o…
持续性能分析平台，能定位到具体代码行，帮你排查 CPU、内存等性能瓶颈，适合生产环境做可观测性监控。
面向 LLM 应用、RAG 和 Agent 工作流的可观测与评测平台，提供全链路追踪、自动评估和生产级监控看板，帮团队定位问题并持续优化效果。
分布式系统的应用性能监控平台，支持链路追踪、指标采集和日志分析，帮你在微服务架构下快速定位性能瓶颈。
开源可观测性与 APM 平台，整合指标、日志、链路追踪、持续剖析和 SLO 告警，借助 AI 自动定位故障根因。
开源的 LLM 可观测性与评测平台，能追踪、调试和评估 RAG 与 Agent 应用，帮团队定位大模型链路中的问题。
给 AI Agent 运行框架加上可观测与策略执行层，记录每次运行轨迹，并实时拦截违规行为，提升运行时可靠性。
开源的实时可观测性系统，通过 Agent 采集指标、日志并接入 LLM 智能分析，替代 Grafana 等传统监控方案做告警通知。
一行代码接入的 LLM 可观测性平台，能监控大模型调用、追踪成本与延迟，并支持评估和实验对比，方便排查线上问题。
开源全栈监控平台，集错误监控、会话回放、日志和分布式追踪于一体，适合自建可观测性体系。
汇集全球科技公司公开的 SRE 实践资料，涵盖告警、混沌工程、事故响应、可观测性等主题，方便团队借鉴落地的运维与稳定性方案。
OpenTelemetry 的可观测性数据收集器，统一接收、处理和导出指标、日志、链路等遥测数据，帮你在不同后端之间解耦采集与上报。
开源的一体化监控与可观测性平台，集告警、值班排班、事件响应和状态页于一身，帮团队快速发现并处理线上故障。
基于 TypeScript 的开源 AI Agent 框架与工程平台，帮开发者快速搭建、编排和观测 LLM 智能体应用。
给 Prometheus 加上跨集群高可用和长期存储能力，把多个 Prometheus 实例的数据聚合成全局可查询的指标视图。
开源企业级 Agent 平台，把智能体、工作流、RAG 知识库和模型管理整合在一起，方便企业搭建、部署和运维 AI 应用。
面向 AI Agent 的实时分析与混合检索数据库，兼容 Iceberg、Hudi、Delta Lake 等湖仓格式，让 Agent 能低延迟查询海量数据。
开箱即用的状态页系统，自带监控与可观测能力，用 Docker 部署即可对外展示服务健康状态。
面向 CI/CD 可靠性的开源智能体，接入 Datadog、Grafana、GitLab CI 等可观测性数据，自动定位流水线故障并给出修复建议。
用 Rust 构建模块化、可扩展 LLM 应用的框架，把模型调用、Agent 编排和工具集成做成可组合组件，适合追求性能与类型安全的团队。
面向智能体应用的 AI 原生代理服务器和数据平面，提供 LLM 智能路由、可观测性、编排与护栏，让开发者专注核心逻辑。
抓取 Claude Code 和 Codex 实际发给 API 的请求，逐段拆解 token 消耗与费用，帮你看清每次调用钱花在哪。