Claude Code および Agents SDK 向けの、AIエージェントの信頼性を保ち自律的な動作を維持するフックとポリシー。
AIエージェントは予測可能な形で失敗します。破壊的なコマンドを実行したり、シークレットを漏洩させたり、タスクから逸脱したり、ループにはまったり、mainブランチに直接プッシュしたりします。放置すれば、小さな失敗が連鎖して大きな問題へと発展します。
Failproof AI はこの問題を ポリシー によって解決します。ポリシーとは、エージェントのすべてのツール呼び出しにフックするルールであり、障害の検出、軽減処置（ブロック・指示・サニタイズ）、そして注意が必要な場合の アラート通知 を行います。ローカルダッシュボードで後から内容を確認することもできます。
すべてはローカルで動作します。データが外部に送信されることはありません。
はじめに
26個の組み込みポリシー
破壊的なコマンドのブロック、シークレットの漏洩防止、エージェントをプロジェクト境界内に制限するなど、すぐに使える機能が揃っています。
カスタムポリシー
シンプルな allow / deny / instruct APIを使って、JavaScriptで独自のルールを記述できます。
エージェントモニター
離席中にエージェントが何をしたか確認できます。セッションの閲覧、ツール呼び出しの検査、ポリシーが発動した箇所のレビューが可能です。
簡単な設定
コードを書かずにポリシーを調整できます。許可リスト、保護ブランチ、しきい値をプロジェクト単位またはグローバルに設定できます。