仪表盘将已保存的查询整合为一个操作视图。围绕你预期有人需要做出的决策来构建它——而不是堆砌所有可用指标。
创建仪表盘
-
前往 Analyze → Queries,创建或打开一个已保存的查询,并验证其结果。
-
选择 add to dashboard,然后选择现有仪表盘,或在 Analyze → Dashboards 下新建一个。
-
打开仪表盘,进入编辑模式,排列图块,然后保存布局。
-
需要修改图块背后的数据或过滤条件时,返回对应查询进行编辑。
当前 Cloud CLI 未开放仪表盘的增删改查功能。请使用 CLI 构建并验证已保存的查询,然后在 UI 中将其添加到仪表盘。
常用仪表盘分组包括:
- 模型: 请求量、延迟、Token 用量、错误率及评估分数。
- 评估: 按 Agent 或环境划分的成功率和分数趋势。
- 工具: 调用量、失败率、耗时及重复调用情况。
- Hooks 与策略: 决策次数、拒绝次数及策略匹配率。
- 自定义工作流指标: 来自你自己的事件字段和 SQL 的计算结果。
从已保存的查询开始,验证结果后再将其作为图块添加进来。务必明确区分生产环境和开发环境的过滤条件,避免测试流量掩盖回归问题。
为每个仪表盘指定一名负责人,并明确一个待回答的问题,例如「checkout-agent 的可靠性是否比上周有所下降?」