本文介绍如何查看可观测。接入可观测后支持链路追踪、会话分析与监控告警等。
简介
使用 Agent 可观测将依托 CLS 日志服务,提供故障排查、安全审计、用量分析与监控告警等多项服务。 注意:
CLS 日志服务为腾讯云独立计费产品,使用后 CLS 侧将按照资费标准收费,计费标准请参见 CLS 计费概述。 模型路由接入 Agent 可观测 后,您将获得以下能力:
故障排查:通过检索链路,快速定位请求失败、超时等问题。
安全审计:记录所有模型调用请求,满足审计和合规要求。
用量分析:统计模型调用量、Token 消耗、响应延迟等指标,辅助容量规划和成本优化。
监控告警:基于 CLS 的告警能力,对异常访问模式、错误率上升等指标设置告警规则。
前提条件
操作步骤
步骤1:开启可观测投递
1. 登录 模型路由 控制台,在实例管理页面,单击目标实例 ID,进入目标实例的实例基本信息页面。 2. 切换至可观测页签,单击立即启用。
3. 在开启可观测投递弹窗中,选择已有观测应用和日志集,然后单击立即开启完成配置。推荐您记录输入输出内容,记录后可实现 Trace 追踪。
说明:
日志从投递到可检索存在约1 - 3分钟的延迟。日志投递开启后,您可以在 CLS 控制台的检索分析页面实时查看日志内容。如果检索不到日志,请检查索引配置是否正确。
步骤2:查看观测数据
1. 在模型路由实例的可观测页签,单击查看观测。
2. 在调用链可查看 Trace 信息。
3. 单击仪表盘和会话等可查看对应信息。
步骤3:关闭可观测投递
1. 在模型路由实例的可观测页签,单击关闭投递。
2. 在关闭模型路由可观测弹窗,勾选确认关闭后,单击确认。
注意:
关闭后,将无法继续记录模型路由的访问情况,请谨慎操作。
相关文档