Vai al contenuto principale
Vedi nell’istante in cui i tuoi modelli, strumenti o hook rallentano o comportano costi, e individua un picco di latenza in coda prima che i tuoi utenti lo avvertano. Tre pagine dedicate trasformano i tempi grezzi in p50, p95 e p99 che puoi leggere a colpo d’occhio. La pagina Models che mostra una heat-map di latenza, una banda percentile e figure per modello di token, costi e context-window La pagina Models: una heat-map di latenza, una banda percentile e token per modello, costi stimati e riempimento context-window.

​
Smetti di lasciare che le medie nascondano i tuoi peggiori risultati

Un numero di latenza media è rassicurante e inutile: nasconde la chiamata ogni cinquanta che si blocca e chiama il tuo on-call alle 2 di mattina. Le pagine Models, Tools e Hooks si rifiutano di farlo. Ognuna ha la stessa forma, quindi la impari una volta sola:
  • Un sparkline a 24 bin per il trend a colpo d’occhio: sta peggiorando?
  • Una striscia di parametri vitali con latenza p50, p95 e p99, così l’esecuzione tipica e la coda stanno fianco a fianco.
  • Una heat-map di latenza, 24 bin di tempo per bucket di latenza, che mostra quando le chiamate lente si sono raggruppate.
  • Una banda percentile: una linea p50 con p25 a p75 e p10 a p90 come nastri sfumati e punti p99, così la distribuzione rimane visibile invece di essere mediata.
Un reticolo di hover condiviso collega la heat-map e la banda, così un picco in coda si allinea nel tempo su entrambi invece di nascondersi dietro una singola linea media. Trova tutte e tre le pagine nella sezione observe del tuo dashboard, ognuna con scope alla tua organizzazione e filtrabile per intervallo di date, ambiente, agent e sessione.

​
Models: vedi esattamente quanto ti costa ogni modello

La pagina Models (mostrata in alto) risponde alle due domande che una fattura sempre solleva: quale modello, e quanto costa. Oltre alla vista di latenza condivisa, aggiunge consumo di token per modello, costo stimato e riempimento context-window, così la crescita incontrollata del prompt e una compressione imminente sono visibili prima che ti sorprendano. FailproofAI Observability riconosce automaticamente gli ID di modello comuni. Se una finestra sembra sbagliata, o usi un modello privato tuo, correggila o aggiungine uno in Settings, in model context windows, e le letture di riempimento seguiranno.

​
Tools: distingui i lenti dai non funzionanti

Una chiamata di tool può essere lenta, oppure può stare silenziosamente fallendo, e vuoi sapere quale sia in pochi secondi, non dopo aver scavato tra i log. La pagina Tools che mostra la heat-map di latenza condivisa e la banda percentile accanto a un breakdown di successo e fallimento e una barra di distribuzione degli strumenti La pagina Tools: la stessa heat-map e banda percentile, più un breakdown di successo e fallimento e una barra di distribuzione degli strumenti. Insieme alla vista di latenza condivisa, la pagina Tools aggiunge un breakdown di successo e fallimento e una barra di distribuzione degli strumenti, così vedi a colpo d’occhio quali strumenti usi di più e quali stanno consumando il tuo error budget.

​
Hooks: individua l’esatto hook e il trigger

Quando un lifecycle hook rallenta un’esecuzione, “gli hook sono lenti” non è qualcosa su cui puoi agire. La pagina Hooks ti porta a quello che conta. La pagina Hooks che mostra la latenza suddivisa per nome hook e evento trigger sulla heat-map e banda percentile condivise La pagina Hooks: latenza suddivisa per nome hook e evento trigger. Sulla stessa heat-map di latenza e banda percentile, la pagina Hooks suddivide l’attività per nome hook e evento trigger, così arrivi all’esatto hook e all’esatto evento che richiedono attenzione.

​
Correlati

  • Event stream: il trail live e con codice colore di ogni evento.
  • Sessions: raggruppa gli eventi in una riga per esecuzione e apri il suo grafico di esecuzione.
  • Error tracking: una superficie di triage unica per tutto ciò che il dashboard dipinge di rosso.
  • Dashboards: viste roll-up attraverso la tua flotta.