Metriche di Prestazione

Vedi l’istante in cui i tuoi modelli, strumenti o hook rallentano o fanno lievitare i costi, e intercetta un picco di latenza coda prima che i tuoi utenti lo avvertano. Tre pagine dedicate trasformano i tempi grezzi in p50, p95 e p99 leggibili a colpo d’occhio. La pagina Models: una mappa di calore della latenza, una banda percentile e token per modello, costo stimato e riempimento della finestra di contesto.

​

Smetti di lasciare che le medie nascondano le tue peggiori esecuzioni

Un numero di latenza media è rassicurante e inutile: nasconde quella chiamata su cinquanta che si blocca e ti sveglia di soppiatto alle 2 di mattina. Le pagine Models, Tools e Hooks rifiutano di farlo. Ognuna condivide la stessa struttura, così la impari una volta:

• Una sparkline a 24 bin per il trend a colpo d’occhio: sta peggiorando?
• Una striscia di vitali con latenza p50, p95 e p99, così l’esecuzione tipica e la coda stanno fianco a fianco.
• Una mappa di calore della latenza, 24 bin temporali per bucket di latenza, che mostra quando le chiamate lente si sono raggruppate.
• Una banda percentile: una linea p50 con nastri ombreggiati da p25 a p75 e da p10 a p90 e punti p99, così la distribuzione rimane visibile invece di essere mediata.

Un mirino di hover condiviso collega la mappa di calore e la banda, così un picco di coda si allinea nel tempo su entrambe invece di nascondersi dietro una singola linea media. Trova tutte e tre le pagine nella sezione observe del tuo dashboard, ognuna con ambito alla tua organizzazione e filtrabile per intervallo di date, ambiente, agente e sessione.

​

Models: vedi esattamente quanto ogni modello ti costa

La pagina Models (mostrata in alto) risponde alle due domande che una fattura pone sempre: quale modello e quanto costa. In aggiunta alla vista di latenza condivisa, aggiunge consumo di token per modello, costo stimato e riempimento della finestra di contesto, così la crescita della prompt incontrollata e una compattazione imminente sono visibili prima di sorprenderti. Failproof AI Observability riconosce automaticamente gli ID dei modelli comuni. Se una finestra sembra scorretta o esegui un modello privato tuo, correggilo o aggiungine uno in Settings, in model context windows, e le letture del riempimento seguiranno.

​

Tools: distingui il lento dal rotto

Una chiamata di strumento può essere lenta, oppure può stare fallendo in silenzio, e vuoi sapere quale sia in secondi, non dopo aver scavato nei log. La pagina Tools: la stessa mappa di calore e banda percentile, più un dettaglio di successo e fallimento e una barra di distribuzione degli strumenti. Accanto alla vista di latenza condivisa, la pagina Tools aggiunge un dettaglio di successo e fallimento e una barra di distribuzione degli strumenti, così vedi a colpo d’occhio quali strumenti usi di più e quali stanno consumando il tuo budget di errori.

​

Hooks: individua esattamente l’hook e il trigger

Quando un hook del ciclo di vita fa rallentare un’esecuzione, “gli hook sono lenti” non è qualcosa su cui puoi agire. La pagina Hooks ti porta a quello che conta. La pagina Hooks: latenza suddivisa per nome dell’hook e evento trigger. Sulla stessa mappa di calore della latenza e banda percentile, la pagina Hooks suddivide l’attività per nome dell’hook e evento trigger, così arrivi all’hook singolo e all’evento singolo che hanno bisogno di attenzione.

​

Correlati

• Event stream: il percorso codificato a colori live di ogni evento.
• Sessions: raggruppa gli eventi in una riga per esecuzione e apri il suo grafico di esecuzione.
• Error tracking: una superficie di triage per tutto quello che il dashboard dipinge di rosso.
• Dashboards: viste riepilogative sulla tua flotta.