> ## Documentation Index
> Fetch the complete documentation index at: https://docs.befailproof.ai/llms.txt
> Use this file to discover all available pages before exploring further.

# オンライン評価

> ライブセッションおよび完了済みセッションを品質、コンプライアンス、コスト、レイテンシの観点でスコアリングします。

オンライン評価は、エージェントセッションに一貫した判断を適用します。監査時のみ調査するのではなく、継続的に測定すべきシグナルに活用してください。

## 評価品質のレビュー

<Tabs>
  <Tab title="ダッシュボード">
    1. **Observe → Evaluations** に移動します。
    2. シリーズを追加し、エージェント、環境、評価スコア、統計、カーブを選択します。
    3. 環境、エージェント、スコアキーを比較するためにシリーズを追加します。
    4. 結果を選択して、一致するセッションを開くか、フィルタリングされたビューを共有します。レイテンシ、トークン、コスト、その他の数値については **Observe → Metrics** を使用してください。

           <img src="https://mintcdn.com/exosphere/WgPwQzedeDNwJBTy/images/dashboard/dashboard-quality.png?fit=max&auto=format&n=WgPwQzedeDNwJBTy&q=85&s=74c925ae831046fc869a3a3d6e81fc25" alt="平均評価スコアと時系列トレンドを表示する品質ダッシュボード。" width="2880" height="1800" data-path="images/dashboard/dashboard-quality.png" />

    ドリルダウンからセッションを開くと、スコアごとの推論内容を確認できます：

    <img src="https://mintcdn.com/exosphere/WgPwQzedeDNwJBTy/images/dashboard/session-detail.png?fit=max&auto=format&n=WgPwQzedeDNwJBTy&q=85&s=7b5f022dd5c485565a8cd92b2e936235" alt="評価スコアと推論内容が完全なトレースと並んで表示されるセッション詳細ビュー。" width="3200" height="2000" data-path="images/dashboard/session-detail.png" />
  </Tab>

  <Tab title="CLI">
    ```bash theme={null}
    fp evals --agent-id checkout-agent --aggregate
    fp evals --aggregate --env production --status error
    fp evals --score helpfulness:0.8.. --since 7d
    ```

    自動化のためにはグローバルオプション `--json` を `evals` の前に追加します。例：`fp --json evals --aggregate --env production`
  </Tab>
</Tabs>

エバリュエーターはセッションのID、環境、タイムスタンプ、および順序付きイベントを受け取ります。オプションの推論内容とサマリーを含む数値スコアキーを返すことができます。長時間実行されるエバリュエーターは保留中のジョブを返し、後でポーリングすることができます。

## 評価に適したターゲット

* タスクの完了度または正確性
* 根拠の明確さおよびハルシネーションリスク
* ツール選択とツール効率
* ポリシーまたはプロセスのコンプライアンス
* コストおよびレイテンシの予算
* 必要な人間へのエスカレーション

## スコアからレスポンスへ

スコアをダッシュボードに表示してトレンドを追跡します。しきい値や複合条件に対してアラートを作成します。集団全体でスコアが低下した場合は、原因を調査するために監査を実施します。原因が繰り返し発生するアクションであれば、ポリシーをデプロイします。

<Card title="エバリュエーターを構築する" icon="code-2" href="/ja/reference/evaluator-sdk">
  Python エバリュエーター SDK を使用して、同期または非同期の評価を実装します。
</Card>
