Revisa la seguridad de la IA

AI Protection proporciona herramientas para visualizar el inventario de recursos de IA de tu organización, investigar los resultados de seguridad y revisar las mitigaciones propuestas para los riesgos y las amenazas. En esta guía, se describe cómo administrar la seguridad de la IA con el panel de AI Security y la página Recursos.

Antes de comenzar

  • Configura AI Protection.
  • Otorga los roles de Identity and Access Management (IAM) necesarios a los usuarios que acceden al panel de AI Security y a la pestaña Recursos > Recursos de IA. Para obtener más información, consulta los Roles requeridos.

Usa el panel de AI Security

El panel de AI Security te permite visualizar el inventario de recursos de IA de tu organización y revisar las mitigaciones propuestas para los riesgos y las amenazas.

Accede al panel de AI Security

Para acceder al panel de AI Security, ve a la página Descripción general de riesgos > AI Security en la Google Cloud consola de.

Ir a AI Security

Para obtener más información, consulta Panel de AI Security .

Comprende la administración de riesgos para los sistemas de IA

En esta sección, se identifican los riesgos potenciales para tus sistemas de IA y se muestran los principales riesgos en tu inventario de IA.

Para ver una visualización y los detalles de un problema específico, haz clic en él.

Visualiza las amenazas de IA

En esta sección, se destacan las amenazas más recientes para tus recursos de IA.

En esta sección, puedes hacer lo siguiente:

  • Para ver todas las amenazas a tus recursos de IA, haz clic en Ver todo.
  • Para ver información detallada sobre una amenaza específica, haz clic en ella.

Visualiza tu inventario de IA

En esta sección, se proporciona un resumen visual de tu inventario de recursos de IA, incluidos los proyectos que usan IA generativa, los modelos activos de origen y de terceros, y los conjuntos de datos que se usan para entrenar modelos de terceros.

En esta sección, puedes hacer lo siguiente:

  • Para ver detalles sobre tu inventario, haz clic en cualquier nodo de la visualización.
  • Para ver una lista detallada de recursos individuales (como los modelos de Gemini y los modelos personalizados), haz clic en la información sobre la herramienta.
  • Para ver detalles sobre un modelo, haz clic en él. En esta vista, se muestran detalles como los extremos en los que se aloja el modelo y el conjunto de datos de entrenamiento. Si Sensitive Data Protection está habilitado, la vista de conjuntos de datos también indica si el conjunto de datos contiene datos sensibles.

Revisa el resumen de los resultados del framework de IA

Esta sección te ayuda a evaluar los resultados generados por las políticas de seguridad de IA y las políticas de seguridad de los datos. Incluye las siguientes tarjetas:

  • Resultados: En esta sección, se muestra un resumen de los resultados generados por las políticas de seguridad de IA y las políticas de seguridad de los datos, como Gemini model detected y Gemini model not protected by Model Armor.

    • Para ver todos los resultados, haz clic en Ver todos los resultados.
    • Para ver los resultados de una categoría específica, haz clic en el recuento de resultados junto a esa categoría.
    • Para ver los detalles de un resultado individual, haz clic en él.

  • Datos sensibles en los conjuntos de datos de Vertex AI: Muestra un resumen de los resultados relacionados con los datos sensibles de tus conjuntos de datos, según lo informado por Sensitive Data Protection. Para obtener más información, consulta Introducción a la plataforma de agentes de Gemini Enterprise.

Examina los resultados de Model Armor

En esta sección, se muestra un gráfico de la cantidad total de instrucciones y respuestas que analiza Model Armor, junto con la cantidad de problemas detectados. El gráfico también proporciona estadísticas resumidas para tipos de problemas específicos, como la inyección de instrucciones, los intentos de jailbreak y la exposición de datos sensibles.

Para las cargas de trabajo de agentes, puedes configurar Model Armor en Agent Gateway para que examine las instrucciones y las respuestas hacia y desde los agentes.

Este gráfico usa las métricas que Model Armor publica en Cloud Monitoring. Para obtener más información, consulta Descripción general de Model Armor.

Inspecciona los recursos de IA

Además del panel de AI Security, puedes inspeccionar y consultar el inventario de recursos de IA de tu organización en la página Recursos de la Google Cloud consola con la pestaña Recursos de IA.

La pestaña Recursos de IA proporciona una vista detallada y filtrable de los sistemas y recursos de IA descubiertos, incluidos los siguientes:

  • Modelos
  • Extremos
  • Fuentes de datos
  • Canalizaciones
  • Agentes
  • Servidores del Protocolo de contexto del modelo (MCP)
  • Notebooks

Puedes usar la pestaña Recursos de IA para ayudarte con lo siguiente:

  • Comprende tu inventario de IA: Consulta listas completas de recursos de IA activos en tu organización, filtradas por proyecto, ubicación o tipo de recurso.
  • Realiza investigaciones de seguridad: Examina los metadatos completos, el historial de cambios y las políticas de IAM asociadas de recursos de IA específicos.
  • Examina los resultados relacionados: Visualiza rápidamente todos los resultados de seguridad asociados con un recurso de IA específico para evaluar su exposición al riesgo y determinar los pasos de corrección necesarios.

Para obtener más información sobre cómo ver y filtrar recursos de IA en la consola, consulta Inspecciona los recursos que supervisa Security Command Center.

¿Qué sigue?