Skip to main content
即时发现模型、工具或 hook 的性能下降或费用飙升,在用户察觉之前捕捉尾延迟峰值。三个专属页面将原始计时数据转化为一目了然的 p50、p95 和 p99 指标。 模型页面展示了延迟热力图、百分位数区间,以及每个模型的 token 数量、成本和上下文窗口占用情况 模型页面:延迟热力图、百分位数区间,以及每个模型的 token 数量、预估成本和上下文窗口填充情况。

别让平均值掩盖最糟糕的情况

平均延迟数字看似令人安心,实则毫无意义:它将每五十次调用中那一次导致凌晨两点告警的卡顿全部抹平了。模型、工具和 Hook 页面拒绝这样做。三个页面结构相同,学会一个,其余触类旁通:
  • 24 格迷你折线图,一眼看出趋势:情况是否在恶化?
  • 核心指标条,展示 p50、p95 和 p99 延迟,让典型运行时间与尾部延迟并排对比。
  • 延迟热力图,横轴为 24 个时间段,纵轴为延迟区间,直观呈现慢调用的集中时段。
  • 百分位数区间:p50 中线配合 p25 至 p75、p10 至 p90 的阴影带以及 p99 散点,让分布情况清晰可见,而非被平均值淹没。
热力图与区间图共享悬停十字准线,尾部延迟峰值在两者中同步对齐,不会藏匿于单一均值线之后。在仪表板的 observe 区域可找到这三个页面,均按组织范围划分,支持按日期范围、环境、Agent 和会话进行筛选。

模型:精确掌握每个模型的成本

模型页面(如上图所示)直接回答账单上的两个问题:哪个模型,花了多少钱。在共享延迟视图之上,它还增加了每模型 token 消耗量预估成本上下文窗口填充情况,让提示词无节制增长和即将触发的压缩操作在发生之前就能被发现。 Failproof AI Observability 能自动识别常见的模型 ID。如果某个窗口显示有误,或者您使用的是自有私有模型,可在 Settingsmodel context windows 中进行修正或添加,填充率读数将随之更新。

工具:区分慢速与故障

一次工具调用可能只是速度慢,也可能是在悄悄失败,您希望在几秒内知道是哪种情况,而不是翻遍日志之后才发现。 工具页面展示了共享的延迟热力图和百分位数区间,以及成功/失败分类统计和工具分布条形图 工具页面:相同的热力图和百分位数区间,加上成功/失败分类统计和工具分布条形图。 在共享延迟视图的基础上,工具页面额外提供成功/失败分类统计工具分布条形图,让您一眼看出哪些工具最常被调用,哪些正在侵蚀您的错误预算。

Hook:精准定位具体的 hook 和触发事件

当某个生命周期 hook 拖慢了运行速度,“hook 太慢了”这样的结论根本无从下手。Hook 页面能帮您直接定位到问题所在。 Hook 页面在共享热力图和百分位数区间之上,按 hook 名称和触发事件细分延迟数据 Hook 页面:按 hook 名称和触发事件细分的延迟数据。 在相同的延迟热力图和百分位数区间之上,Hook 页面将活动按 hook 名称触发事件进行细分,让您精准锁定需要关注的单个 hook 和单个事件。

相关内容

  • 事件流:每个事件的实时彩色追踪记录。
  • 会话:将事件汇总为每次运行一行,并打开其执行图。
  • 错误追踪:统一处理仪表板标红的所有问题。
  • 仪表板:跨全局的汇总视图。