Skip to main content
このページでは、Failproof AI Observability が使用する用語を定義します。他のガイドで見慣れない用語があれば、ここで確認できます。最初から通読する必要はありません。ざっと目を通すか、確認したい用語が出てきたときに参照してください。

データモデル

イベント データの最小単位です。1 つのイベントは、エージェントが実行した単一のステップを記録します。tool_usemodel_requesthook_completederror などがあります。エージェントは Python SDK を通じてイベントを送信し、Events ページにリアルタイムで表示されます。 セッション session_id によって識別される、1 回のエージェント実行です。セッションは同じ ID を持つすべてのイベントをまとめたもので、Sessions ページの 1 行として表示され、詳細ページでは実行グラフとして描画されます。セッションは通常 agent_start で始まり、agent_end で終わります。 エージェント agent_id によって識別される、実行内の名前付きアクターです。1 回の実行に複数のエージェントが関与することがあります。たとえば、サマライザーのサブエージェントを生成するプランナーなどです。サブエージェントは parent_id を持ち、これによって Failproof AI Observability は実行グラフ上でそれぞれ独立したレーンに描画できます。 環境 実行が行われた場所を示すラベルです。productionstagingdev などがあります。SDK の設定時に一度だけ設定します。ダッシュボードのほぼすべてのページで環境によるフィルタリングが可能です。 コンテキストウィンドウ使用率 レスポンスがモデルのコンテキストウィンドウを消費した割合です。Failproof AI Observability は認識しているモデルの model_response イベントにこの値を付与するため、プロンプトの増大や差し迫ったコンパクションをイベントストリーム上で直接確認できます。

品質

評価(Evaluation) 完了したセッションに対して、あなたが実行するスコアリングサービスが生成する品質スコアです。評価はオプトイン方式です。評価器を接続するまで、セッションは記録されますがスコアリングは行われません。各評価には複数の名前付きスコア(例:helpfulnessfactualitytool_efficiency)を含めることができ、それぞれに短い根拠メモが付きます。Evaluation suite を参照してください。 スコアキー 評価器が報告する 1 つの評価軸の名前です(例:helpfulness)。アラートと監査は、特定のスコアキーを時系列で監視できます。 評価器(Evaluator) あなたのスコアリングサービスです。Failproof AI Observability は完了した実行のトランスクリプトをこのサービスに POST し、返されたスコアを保存します。デフォルトの評価器は提供されません。スコアリングのロジックはあなた自身が実装します。

障害の発見と修正

フック(Hook) エージェントフレームワークがステップの前後に実行するガードレールまたは副作用です。コンテンツの安全チェック、PII のマスキング、予算ガードなどが該当します。フックは outcome(allow、deny、modify)を持つ hook_triggered / hook_completed イベントを送信し、専用のオブザーブページを持ちます。 アラートルール エラー率、p95 レイテンシ、トークンコスト、または評価器のスコアなどのメトリクスが設定したしきい値を超えたときに発火するルールです。ルールが発火すると、インシデントが作成され、設定したチャンネル(メール、Slack、webhook、ダッシュボード内)に通知が送られます。Alerts を参照してください。 インシデント アラートルールが発火したときに作成されるオープンな問題です。インシデントにはライフサイクル(承認、割り当て、解決)があり、すべての操作を記録するアクティビティタイムラインを持ちます。手動で作成することもできます。 監査(Audit) まだルールを定義していない障害パターンをセッション横断でログから探り出す、定期的な調査です(毎時から毎週まで設定可能)。エラーのクラスター、低スコア、レイテンシの外れ値、ツール呼び出しのループ、完了しなかった実行などを検出します。アラートがすでに把握しているメトリクスを監視するのに対し、監査は次に注目すべき点を教えてくれます。Audits を参照してください。 ファインディング(Finding) 監査実行から得られる、優先度付きかつ証拠に基づいた結果の 1 件です。ファインディングはパターンを名付け、その背後にある正確なセッションにリンクし、トリアージのライフサイクル(承認、解決、ミュート、却下)を持ちます。Failproof AI Observability は実行をまたいでファインディングを重複排除するため、既知のパターンは積み重なるのではなく更新されます。 AI アシスタント ダッシュボード内のチャット機能で、あなたのデータを基にエージェントに関する質問に平易な言葉で回答します。デフォルトでは読み取り専用です。アシスタントが作成するもの(保存済みクエリ、ダッシュボードなど)は承認が必要であり、削除操作は一切できません。AI assistant を参照してください。

実行環境

組織(テナント) 独立したワークスペースです。1 つの Failproof AI Observability インスタンスで複数の組織をホストでき、それぞれが独自のユーザー、キー、データを持ちます。すべてのダッシュボード URL は組織のスラッグ(/<org-slug>/…)にスコープされます。 コレクター agenteye-collector は、各エージェントマシン上で動作する軽量なデーモンです。SDK がディスクに書き込んだイベントをバッチ処理し、サーバーに送信します。 API キー クライアントをサーバーに対して認証するためのスコープ付きトークンです。キーには細かい権限が設定されます(例:コレクター用の events:add、ダッシュボードキー用の読み取り専用スコープ)。API keys を参照してください。 サーバー インジェストおよび API サービスです。イベントを受信し、運用状態をデータベースに保存し、ダッシュボードと CLI を提供します。 ダッシュボード Web UI です。すべてのページは組織にスコープされ、サーバーの API を通じてデータを読み取ります。

次のステップ

  • Overview: これらのコンポーネントがどのように組み合わさるかを説明します。
  • Observability: オブザーブのサーフェス(Events、Sessions、Models、Tools、Hooks、Errors)について説明します。