AI 保護には、組織の AI アセット インベントリを可視化し、セキュリティ検出結果を調査し、リスクと脅威に対する提案された軽減策を確認するためのツールが用意されています。このガイドでは、AI セキュリティ ダッシュボードと [アセット] ページを使用して AI セキュリティを管理する方法について説明します。
始める前に
- AI 保護を構成する。
- AI セキュリティ ダッシュボードと [アセット] > [AI リソース] タブにアクセスするユーザーに必要な Identity and Access Management（IAM）ロールを付与します。詳細については、必要なロールをご覧ください。
AI セキュリティ ダッシュボードを使用する
AI セキュリティ ダッシュボードでは、組織の AI アセット インベントリを可視化し、リスクと脅威に対する提案された軽減策を確認できます。
AI Security ダッシュボードにアクセスする
AI セキュリティ ダッシュボードにアクセスするには、 Google Cloud コンソールで [リスクの概要] > [AI セキュリティ] ページに移動します。
詳細については、AI セキュリティ ダッシュボードをご覧ください。
AI システムのリスク管理について
このセクションでは、AI システムの潜在的なリスクを特定し、AI インベントリの最もリスクの高い問題を表示します。
特定の問題の可視化と詳細を表示するには、問題をクリックします。
AI に対する脅威を表示する
このセクションでは、AI リソースに対する最新の脅威を確認できます。
このセクションでは、次の操作を行うことができます。
- AI リソースに対するすべての脅威を表示するには、[すべて表示] をクリックします。
- 特定の脅威に関する詳細情報を表示するには、その脅威をクリックします。
AI インベントリを可視化する
このセクションでは、生成 AI を使用するプロジェクト、アクティブなファーストパーティ モデルとサードパーティ モデル、サードパーティ モデルのトレーニングに使用されるデータセットなど、AI アセット インベントリの概要を視覚的に確認できます。
このセクションでは、次の操作を行うことができます。
- インベントリの詳細を表示するには、可視化のノードをクリックします。
- 個々のアセット（Gemini モデルやカスタムビルド モデルなど）の詳細なリストを表示するには、ツールチップをクリックします。
- モデルの詳細を表示するには、モデルをクリックします。このビューには、モデルがホストされているエンドポイントやトレーニング データセットなどの詳細が表示されます。Sensitive Data Protection が有効になっている場合、データセット ビューには、データセットにセンシティブ データが含まれているかどうかも表示されます。
AI フレームワークの検出結果の概要を確認する
このセクションでは、AI セキュリティ ポリシーとデータ セキュリティ ポリシーによって生成された検出結果を評価する方法について説明します。次のカードが含まれます。
検出結果: このセクションには、AI セキュリティ ポリシーとデータ セキュリティ ポリシーによって生成された検出結果の概要（
Gemini model detectedやGemini model not protected by Model Armorなど）が表示されます。- すべての検出結果を表示するには、[すべての検出結果を表示] をクリックします。
- 特定のカテゴリの検出結果を表示するには、そのカテゴリの横にある検出結果の数値をクリックします。
- 個々の検出結果の詳細を表示するには、検出結果をクリックします。
Vertex AI データセット内のセンシティブ データ: Sensitive Data Protection によって報告された、データセット内のセンシティブ データに関連する検出結果の概要が表示されます。詳細については、Gemini Enterprise Agent Platform の概要をご覧ください。
Model Armor の検出結果を調べる
このセクションには、Model Armor によってスキャンされたプロンプトとレスポンスの合計数と、検出された問題の数のグラフが表示されます。グラフには、プロンプト インジェクション、ジェイルブレイクの試行、センシティブ データ漏洩など、特定の問題タイプの要約統計情報も表示されます。
エージェント ワークロードの場合、Agent Gateway で Model Armor を構成して、エージェントとの間でやり取りされるプロンプトとレスポンスをスクリーニングできます。
このグラフでは、Model Armor が Cloud Monitoring に公開する指標を使用します。詳細については、Model Armor の概要をご覧ください。
AI リソースを検査する
AI セキュリティ ダッシュボードに加えて、Google Cloud コンソールの [アセット] ページで [AI リソース] タブを使用して、組織の AI アセット インベントリを検査してクエリできます。
[AI リソース] タブには、検出された AI システムとアセットの詳細なフィルタリング可能なビューが表示されます。これには次のものが含まれます。
- モデル
- エンドポイント
- データソース
- パイプライン
- エージェント
- Model Context Protocol（MCP）サーバー
- ノートブック
[AI リソース] タブでは、次の操作を行えます。
- AI インベントリを把握する: 組織全体のアクティブな AI アセットの包括的なリストを、プロジェクト、ロケーション、リソースタイプでフィルタして表示します。
- セキュリティ調査を実施する: 特定の AI アセットの完全なメタデータ、変更履歴、関連する IAM ポリシーを調べます。
- 関連する検出結果を確認する: 特定の AI アセットに関連するすべてのセキュリティ検出結果をすばやく表示して、リスクの露出を評価し、必要な修復手順を決定します。
コンソールで AI アセットを表示してフィルタリングする方法の詳細については、Security Command Center でモニタリングされているアセットを検査するをご覧ください。
次のステップ
- 詳しくは、AI 保護をご覧ください。
- AI 保護を構成する方法を学習する。
- ダッシュボードのデータを使用してリスクを評価する方法を確認する。