查看 AI 安全

AI Protection 提供多种工具，可直观呈现组织的 AI 资产清单、调查安全发现结果，以及查看针对风险和威胁提出的缓解措施。本指南介绍了如何使用 AI Security 信息中心和“素材资源”页面管理 AI 安全。

准备工作

• 配置 AI Protection。
• 向访问 AI Security 信息中心和 Assets > AI 资源 标签页的用户授予所需的 Identity and Access Management (IAM) 角色。如需了解详情，请参阅必需 的角色。

使用 AI Security 信息中心

借助 AI Security 信息中心，您可以直观呈现组织的 AI 资产清单，并查看针对风险和威胁提出的缓解措施。

访问 AI Security 信息中心

如需访问 AI Security 信息中心，请在 Google Cloud 控制台中依次前往 风险 概览 > AI Security 页面：

前往“AI Security”

如需了解详情，请参阅 AI Security 信息中心。

了解 AI 系统的风险管理

本部分介绍了 AI 系统的潜在风险，并显示了 AI 清单中的最高风险。

如需查看特定问题的可视化图表和详细信息，请点击相应问题。

查看 AI 威胁

本部分重点介绍了 AI 资源的最新威胁。

在本部分中，您可以执行以下操作：

• 如需查看 AI 资源的所有威胁，请点击查看全部 。
• 如需查看特定威胁的详细信息，请点击相应威胁。

直观呈现您的 AI 清单

本部分提供了 AI 资产清单的可视化摘要，包括使用生成式 AI 的项目、活跃的第一方和第三方模型，以及用于训练第三方模型的数据集。

在本部分中，您可以执行以下操作：

• 如需查看清单的详细信息，请点击可视化图表中的任意节点。
• 如需查看各个资产（例如 Gemini 模型和自定义构建的模型）的详细列表，请点击相应提示。
• 如需查看模型的详细信息，请点击相应模型。此视图会显示详细信息，例如模型托管的端点以及训练数据集。如果启用了 Sensitive Data Protection，数据集视图还会指明数据集是否包含敏感数据。

查看 AI 框架发现结果摘要

本部分可帮助您评估 AI 安全政策和数据安全政策生成的发现结果。它包含以下卡片：

• 发现结果：此部分会显示 AI 安全政策和数据安全政策生成的发现结果摘要，例如Gemini model detected 和Gemini model not protected by Model Armor。

  • 如需查看所有发现结果，请点击查看所有发现结果 。
  • 如需查看特定类别的发现结果，请点击该类别旁边的发现结果数量。
  • 如需查看个别发现结果的详细信息，请点击相应发现结果。

• Vertex AI 数据集中的敏感数据：显示 Sensitive Data Protection 报告的与数据集中的敏感数据相关的发现结果摘要。如需了解详情，请参阅 Introduction to Gemini Enterprise Agent Platform。

检查 Model Armor 发现结果

本部分会显示一个图表，其中包含 Model Armor 扫描的提示和回答总数，以及检测到的问题数量。 该图表还提供了特定问题类型的汇总统计信息，例如提示注入、越狱尝试和敏感数据暴露。

对于代理工作负载，您可以在 Agent Gateway 上配置 Model Armor，以屏蔽与代理之间的提示和回答。

此图表使用 Model Armor 发布到 Cloud Monitoring 的指标。如需了解详情，请参阅 Model Armor 概览。

查看 Agent Platform 漏洞评估发现结果

Agent Platform 漏洞评估生成的发现结果包含有关 Secret 的位置和类型的信息，但不包含 Secret 值。

如需查看 Agent Platform 漏洞评估生成的发现结果，请执行以下操作：

1. 在 Google Cloud 控制台中，前往 Security Command Center 的 发现结果 页面。

   前往“发现结果”

2. 选择您的 Google Cloud 项目或组织。
3. 在快速过滤条件 部分的类别 子部分中，选择 Secret 。查询结果会更新，仅显示匹配的发现结果。
4. 如需查看特定发现结果的详情，请点击类别 列中的发现结果名称。系统将打开该发现结果的详细信息面板，并展示摘要 标签页。
5. 在摘要 标签页的检测到 部分下，查看 说明，然后点击以下链接了解更多详情：
   • 文件：查看有关 Secret 发现位置的信息。
   • 查看 Secret 详情：查看已识别的 Secret 类型。

检查 AI 资源

除了 AI Security 信息中心之外，您还可以使用 控制台的 资产 页面中的 Google Cloud AI 资源 标签页，检查和查询组织的 AI 资产清单。

AI 资源 标签页提供了已发现的 AI 系统和资产的详细视图，您可以根据需要进行过滤，其中包括：

• 模型
• 端点
• 数据源
• 流水线
• 代理
• Model Context Protocol (MCP) 服务器
• Notebooks

您可以使用 AI 资源 标签页来协助完成以下操作：

• 了解 AI 清单：查看组织中所有活跃 AI 资产的完整列表，并按项目、位置或资源 类型进行过滤。
• 执行安全调查：检查特定 AI 资产的完整元数据、更改 历史记录和关联的 IAM 政策。
• 检查相关发现结果：快速查看与特定 AI 资产关联的所有安全发现结果，以评估其风险敞口并确定必要的补救措施。

如需详细了解如何在控制台中查看和过滤 AI 资产，请参阅 检查受 Security Command Center监控的资产。

后续步骤

• 详细了解 AI Protection。
• 了解如何配置 AI Protection。
• 了解如何使用信息中心数据评估风险。