给 Prometheus 加上跨集群高可用和长期存储能力,把多个 Prometheus 实例的数据聚合成全局可查询的指标视图。
OpenTelemetry 的可观测性数据收集器,统一接收、处理和导出指标、日志、链路等遥测数据,帮你在不同后端之间解耦采集与上报。
基于 OpenTelemetry Collector 的可编程遥测数据管道,用声明式配置把指标、日志和链路统一采集、处理并转发到 Grafana、Prometheus、Loki 等后端。
用 Rust 构建的统一基础设施可观测平台,基于数据湖架构统一采集日志、指标、链路和事件,靠列式遥测压缩把存储成本最多降低 90%。
…增logprobs/prompt logprobs token解码开关 5463 新增请求级投机解码指标监控支持 5518 新增健康检查功能 5534 新增请求级延迟细粒度追踪(Tracing Part1) 5458 新增Entropy计算支持 5692 5730 新增输出缓存默认启用 5987 新增tag phase token enf
…- 优化权限问题 - 固化任务模板不可修改 - 安全响应添加 七、监控与性能优化 - 优化 LLM 指标监控 - 增加 TPS、E2E、首 Token 时延、单 Token 平均时延(ms) - 优化整体资源自动使用缓存 - 优化监控 - 优化 Pod 子状态 - 处理 Gevent 模型性能 - 优化定时清理测试服务状态 - 优化 Wa
…- 优化权限问题 - 固化任务模板不可修改 - 安全响应添加 七、监控与性能优化 - 优化 LLM 指标监控 - 增加 TPS、E2E、首 Token 时延、单 Token 平均时延(ms) - 优化整体资源自动使用缓存 - 优化监控 - 优化 Pod 子状态 - 处理 Gevent 模型性能 - 优化定时清理测试服务状态 - 优化 Wa