דלג לתוכן הראשי
ראה בעת זו כאשר המודלים, הכלים או ה-hooks שלך מאטים או מגדילים חשבון, וחסום דופק עיכוב זנב לפני שהמשתמשים שלך יחוו זאת. שלוש דפים ייעודיים הופכים זמנים גולמיים ל-p50, p95 ו-p99 שאתה יכול לקרוא בהבט אחד. דף Models מציג מפת חום של עיכוב, פס אחוזוני וקטגוריות של token, עלות וחלון הקשר לכל מודל דף Models: מפת חום של עיכוב, פס אחוזוני וקטגוריות token, עלות משוערת ותמלא חלון הקשר לכל מודל.

​
הפסק להסתיר את ההרצות הגרועות ביותר שלך מאחורי ממוצעים

מספר עיכוב ממוצע הוא מנחם ולא שימושי: הוא משטח את הקריאה האחת מחמישים שעומדת וקוראת לצפוי שלך בשעה 2 בבוקר. דפי Models, Tools ו-Hooks מסרבים לעשות זאת. כל אחד משתף את אותה צורה, כך שתלמד זאת פעם אחת:
  • sparkline בן 24 bin לכיוון בהבט אחד: האם זה הולך להרע?
  • פס vitals עם עיכוב p50, p95 ו-p99, כך שההרצה הטיפוסית והזנב ישבו זה לצד זה.
  • מפת חום של עיכוב, 24 time bins לפי דלי עיכוב, המציג מתי קבוצות הקריאות האיטיות.
  • פס אחוזוני: קו p50 עם סרטים מוצללים p25 ל-p75 ו-p10 ל-p90 ונקודות p99, כך שההפצה נשארת גלויה במקום להיות ממוצעת.
קו חציית ריחוף משותף מקשר את מפת החום והפס, כך שדופק זנב מיישר קו בזמן על פני שניהם במקום להסתתר מאחורי קו ממוצע בודד. מצא את שלוש הדפים בסעיף observe של לוח הבקרה שלך, כל אחד בהיקף הארגון שלך וניתן לסינון לפי טווח תאריכים, סביבה, agent וsession.

​
Models: ראה בדיוק מה כל מודל עולה לך

דף Models (מוצג למעלה) משיב על שתי השאלות שחשבון תמיד מעלה: איזה מודל, וכמה. על גבי התצוגה הלטנציה המשותפת, הוא מוסיף צריכת token לכל מודל, עלות משוערת ותמלא חלון הקשר, כך שגדילת prompt בלויה וקומפקציה קרובה גלויים לפני שהם משאירים אתך במפתיע. FailproofAI Observability מזהה מזהי מודלים נפוצים באופן אוטומטי. אם חלון נראה לא בסדר, או שאתה מריץ מודל פרטי משלך, תקן אותו או הוסף אחד תחת Settings, ב-model context windows, והערכים של תמלא עוקבים.

​
Tools: הבדל בין איטי לשבור בשקט

קריאת tool יכולה להיות איטית, או יכולה להיכשל בשקט, ואתה רוצה לדעת איזה מהם בשניות, לא אחרי שחופרים דרך יומנים. דף Tools מציג את מפת החום וה-percentile band המשותף ליד פירוק הצלחה וכישלון ובר distribution של tools דף Tools: אותה מפת חום ו-percentile band, בתוספת פירוק הצלחה וכישלון ובר distribution של tools. לצד תצוגת הלטנציה המשותפת, דף Tools מוסיף פירוק הצלחה וכישלון ובר distribution של tools, כך שתראה בהבט אחד באילו tools אתה משען ביותר ואילו אוכלים את תקציב השגיאה שלך.

​
Hooks: אתר בדיוק את ה-hook והטריגר המדוקדקים

כאשר lifecycle hook גורר הרצה, “hooks הם איטיים” הוא לא משהו שאתה יכול לפעול עליו. דף Hooks מקריב אותך לאחד שחשוב. דף Hooks מציג latency מחולק לפי hook name ו-trigger event על פני מפת החום וה-percentile band המשותף דף Hooks: latency מחולק לפי hook name ו-trigger event. על אותה מפת חום latency ו-percentile band, דף Hooks מחלק פעילות לפי hook name וtrigger event, כך שתנחת על ה-hook היחיד וה-event היחיד הזקוקים לתשומת לב.

​
קשור

  • Event stream: השביל חי וצבעוני של כל event.
  • Sessions: צרור events לשורה אחת לכל הרצה ופתח את גרף ההוצאה שלה.
  • Error tracking: משטח triage אחד לכל מה שה-dashboard צובע באדום.
  • Dashboards: תצוגות roll-up על פני הצי שלך.