
别再让平均值掩盖最糟糕的调用
平均延迟数字看起来让人放心,实则毫无意义:它会平滑掉每五十次调用中那一次卡住、在凌晨两点触发告警的请求。Models、Tools 和 Hooks 页面拒绝这样做。三者结构相同,学一次即可举一反三:- 24 格迷你折线图,快速把握趋势:情况是否在恶化?
- 核心指标条,包含 p50、p95 和 p99 延迟,典型请求与尾部请求并排呈现。
- 延迟热图:横轴为 24 个时间段,纵轴为延迟区间,直观展示慢请求在何时集中出现。
- 百分位带:p50 中线搭配 p25–p75 和 p10–p90 阴影区间,以及 p99 散点,让分布情况清晰可见而非被平均值掩盖。
Models:精确掌握每个模型的成本
Models 页面(如上图所示)直接回答账单带来的两个问题:哪个模型,花了多少钱。在共享延迟视图的基础上,它额外呈现每个模型的 token 消耗、预估费用和上下文窗口占用情况,让失控的 prompt 增长和即将触发的压缩操作在发生前就一目了然。 FailproofAI Observability 会自动识别常见模型 ID。如果某个窗口显示有误,或者您运行的是自有私有模型,可在 Settings 的 model context windows 下进行修正或添加,相应的占用率读数会自动更新。Tools:区分慢速与故障
工具调用可能只是运行缓慢,也可能正在悄然失败——您需要在几秒内判断是哪种情况,而不是翻遍日志才得出结论。
Hooks:精确定位问题钩子和触发事件
当某个生命周期钩子拖慢了运行速度,“钩子太慢”这个结论根本无法指导行动。Hooks 页面帮您直接定位到问题所在。

