Performans Metrikleri

Modellerinizin, araçlarınızın veya hook’larınızın yavaşladığı veya maliyeti artırdığı anı görün ve kullanıcılarınız bunu hissetmeden tail-latency artışını yakalayın. Üç ayrı sayfa ham zamanlama verilerini p50, p95 ve p99’a dönüştürerek bir bakışta okuyabileceğiniz hale getirir. Models sayfası: latency ısı haritası, yüzdelik bandı ve model başına tokenler, tahmini maliyet ve bağlam penceresi doldurma.

​

Ortalamaların kötü çalışmaları saklamasına izin vermeyin

Ortalama latency numarası rahatlatıcı ve işe yaramaz: elli çağrıdan birinin takılıp kalıp sabah 2’de on-call personelini çağırmasının üzerini örter. Models, Tools ve Hooks sayfaları bunu yapmayı reddeder. Her biri aynı yapıya sahiptir, böylece bunu bir kez öğrenirsiniz:

• Trendi bir bakışta görmek için 24-kutulu sparkline: bu durum kötüye gidiyor mu?
• p50, p95 ve p99 latency ile vitals şeridi, böylece tipik çalışma ve tail yan yana oturur.
• Latency ısı haritası, 24 zaman kutusu x latency segmentleri, ne zaman yavaş çağrıların kümelendiğini gösterir.
• Yüzdelik bant: p50 çizgisi ile p25 ila p75 ve p10 ila p90 gölgeli şeritleri ve p99 noktaları, böylece yayılma ortalama yerine görünür kalır.

Paylaşılan bir hover crosshair ısı haritasını ve bandı zaman olarak bağlar, böylece tail spike her ikisinde de zaman içinde sıralanır ve tek bir ortalama çizgisinin arkasında gizlenmez. Üç sayfayı da panonuzun observe bölümünde bulun, her biri kuruluşunuza kapsamlı ve tarih aralığı, ortam, agent ve oturum ile filtrelenebilir.

​

Models: her modelin size ne kadara mal olduğunu tam olarak görün

Models sayfası (üstte gösterilmiştir) bir faturanın her zaman ortaya çıkardığı iki soruya yanıt verir: hangi model ve ne kadar. Paylaşılan latency görünümünün üzerine, model başına token tüketimi, tahmini maliyet ve bağlam penceresi doldurma ekler, böylece kontrolsüz prompt büyümesi ve yaklaşan sıkıştırma sizi şaşırtmadan önce görünür. Failproof AI Observability ortak model kimliklerini otomatik olarak tanır. Bir pencere yanlış görünüyorsa veya kendi özel modelinizi çalıştırıyorsanız, Settings altında, model context windows içinde düzeltin veya ekleyin ve doldurma okumaları bunu takip eder.

​

Tools: yavaş olanı kırık olandan ayırt edin

Bir tool çağrısı yavaş olabilir veya sessizce başarısız olabilir ve bunu günlükleri inceledikten sonra değil de saniyeler içinde bilmek istersiniz. Tools sayfası: aynı ısı haritası ve yüzdelik bant, artı başarı ve hata dökümü ile tool dağılım çubuğu. Paylaşılan latency görünümünün yanında, Tools sayfası bir başarı ve hata dökümü ve tool dağılım çubuğu ekler, böylece bir bakışta hangi toolları en çok kullandığınızı ve hangilerinin hata bütçenizi tükettiğini görürsünüz.

​

Hooks: tam hook ve trigger’ı belirleyin

Bir lifecycle hook bir çalışmayı yavaşlatırken, “hook’lar yavaş” üzerinde harekete geçebileceğiniz bir şey değildir. Hooks sayfası sizi önemli olana götürür. Hooks sayfası: latency’nin hook adı ve trigger olayına göre dökülmüş. Aynı latency ısı haritası ve yüzdelik bandı üzerinde, Hooks sayfası etkinliği hook adı ve trigger olayı tarafından kırıyor, böylece ilgilenilmesi gereken tek hook’a ve tek olaya inersiniz.

​

İlgili

• Event stream: her olayın canlı, renkle kodlanmış izi.
• Sessions: olayları çalışma başına bir satırda toplayın ve yürütme grafiğini açın.
• Error tracking: panoda kırmızı olan her şey için tek triage yüzeyi.
• Dashboards: filoğunuz genelinde toparlama görünümleri.