跳转到主要内容
即时发现模型、工具或钩子何时出现性能下降或费用激增,在用户感知到之前就捕获尾部延迟峰值。三个专属页面将原始计时数据转化为一目了然的 p50、p95 和 p99 百分位数。 Models 页面展示延迟热图、百分位带以及每个模型的 token 用量、费用和上下文窗口数据 Models 页面:延迟热图、百分位带,以及每个模型的 token 用量、预估费用和上下文窗口占用情况。

别再让平均值掩盖最糟糕的调用

平均延迟数字看起来让人放心,实则毫无意义:它会平滑掉每五十次调用中那一次卡住、在凌晨两点触发告警的请求。Models、Tools 和 Hooks 页面拒绝这样做。三者结构相同,学一次即可举一反三:
  • 24 格迷你折线图,快速把握趋势:情况是否在恶化?
  • 核心指标条,包含 p50、p95 和 p99 延迟,典型请求与尾部请求并排呈现。
  • 延迟热图:横轴为 24 个时间段,纵轴为延迟区间,直观展示慢请求在何时集中出现。
  • 百分位带:p50 中线搭配 p25–p75 和 p10–p90 阴影区间,以及 p99 散点,让分布情况清晰可见而非被平均值掩盖。
共享的悬停十字线将热图和百分位带联动,尾部延迟峰值在两个视图中时间对齐,不会藏匿在单一均值线后面。三个页面均位于仪表板的 observe 区域,可按组织范围进行过滤,支持日期范围、环境、Agent 和会话等维度。

Models:精确掌握每个模型的成本

Models 页面(如上图所示)直接回答账单带来的两个问题:哪个模型,花了多少钱。在共享延迟视图的基础上,它额外呈现每个模型的 token 消耗预估费用上下文窗口占用情况,让失控的 prompt 增长和即将触发的压缩操作在发生前就一目了然。 FailproofAI Observability 会自动识别常见模型 ID。如果某个窗口显示有误,或者您运行的是自有私有模型,可在 Settingsmodel context windows 下进行修正或添加,相应的占用率读数会自动更新。

Tools:区分慢速与故障

工具调用可能只是运行缓慢,也可能正在悄然失败——您需要在几秒内判断是哪种情况,而不是翻遍日志才得出结论。 Tools 页面展示共享的延迟热图和百分位带,以及成功与失败分布和工具使用分布条 Tools 页面:同样的热图和百分位带,加上成功与失败分布以及工具使用分布条。 在共享延迟视图基础上,Tools 页面额外提供成功与失败分布工具使用分布条,让您一眼看出哪些工具最常被调用,哪些正在消耗您的错误预算。

Hooks:精确定位问题钩子和触发事件

当某个生命周期钩子拖慢了运行速度,“钩子太慢”这个结论根本无法指导行动。Hooks 页面帮您直接定位到问题所在。 Hooks 页面在共享热图和百分位带上展示按钩子名称和触发事件细分的延迟数据 Hooks 页面:按钩子名称和触发事件细分的延迟数据。 在相同的延迟热图和百分位带之上,Hooks 页面将活动按钩子名称触发事件进行细分,让您直接定位到需要处理的那一个钩子和那一个事件。

相关内容

  • 事件流:每个事件的实时彩色追踪记录。
  • 会话:将事件汇总为每次运行一行,并展开其执行图。
  • 错误追踪:统一的问题分类处理界面,涵盖仪表板标红的所有内容。
  • 仪表板:面向整体集群的汇总视图。