Crea y administra plantillas de Model Armor

En esta página, se describe cómo crear, ver, actualizar y borrar plantillas de Model Armor.

Crea una plantilla de Model Armor

Console

  1. En la consola de Google Cloud, ve a la página Model Armor.

    Ve a Model Armor

  2. Verifica que estés viendo el proyecto en el que activaste la Armadura de modelos.

  3. En la página Model Armor, haz clic en Create Template. Aparecerá la página Crear plantilla.

  4. Especifica el ID de plantilla. El ID de la plantilla puede tener letras, dígitos o guiones. No debe superar los 63 caracteres ni puede tener espacios ni comenzar con un guion.

  5. Selecciona una región para ejecutar tus plantillas de Model Armor. No podrás cambiar la región más adelante.

  6. Opcional: Agrega etiquetas. Las etiquetas son pares clave-valor que puedes usar para agrupar plantillas relacionadas.

  7. En la sección Detección, configura la siguiente configuración de detección:

    • Detección de URLs maliciosas: Identifica direcciones web (URLs) diseñadas para dañar a usuarios o sistemas. Estas URLs pueden dirigir a sitios de phishing, descargas de software malicioso o ciberataques. Para obtener más información, consulta Detección de URLs maliciosas.

    • Detección de inyección de instrucciones y jailbreak: Detecta contenido malicioso y los intentos de jailbreak en una instrucción. Para una aplicación más estricta, establece el nivel de confianza en Bajo y superior** para detectar la mayoría del contenido que probablemente corresponda a inyección de instrucciones o intento de jailbreaking. Para obtener más información, consulta Detección de inyección de instrucciones y jailbreak.

    • Protección de datos sensibles: Detecta datos sensibles, evita la exposición accidental y bloquea los intentos de extraer datos de modelos de IA a través de ataques como la inyección de instrucciones. Para obtener más información, consulta Protección de datos sensibles.

      Puedes establecer la protección de datos sensibles básica o avanzada.

      • Básico: Usa infotipos predefinidos para detectar tipos de datos sensibles. Para obtener más información sobre el infoType predefinido, consulta la configuración básica de la Protección de datos sensibles.

      • Avanzado: Usa una plantilla de inspección definida en el servicio Sensitive Data Protection como una única fuente para los infotipos de datos sensibles.

        Si seleccionas la Protección de datos sensibles avanzada, debes especificar los siguientes parámetros:

        • Plantilla de inspección: Plantillas para guardar información de configuración en trabajos de análisis de inspección, que incluyen qué detectores personalizados o predefinidos usar. Ingresa el nombre de la plantilla con el siguiente formato: projects/projectName/locations/locationID/inspectTemplates/templateName

        • Opcional: Plantilla de desidentificación: Plantillas para guardar información de configuración en trabajos de desidentificación, que incluyen transformaciones de Infotipo y de conjunto de datos estructurados. Ingresa un identificador para la plantilla de desidentificación en el siguiente formato: projects/projectName/locations/locationID/deidentifyTemplates/templateName

  8. En la sección IA responsable, puedes establecer el nivel de confianza para cada filtro de contenido. El nivel de confianza representa la probabilidad de que los resultados coincidan con un tipo de filtro de contenido. Los valores posibles son:

    • Ninguno: No detecta ningún tipo de contenido.
    • Bajo y superior: Detecta contenido con un nivel de confianza bajo, medio o alto.
    • Probabilidad media y superior: Detecta contenido con un nivel de confianza medio o alto.
    • Alto: Detecta contenido con un nivel de confianza alto.

    Para una aplicación más estricta, establece el nivel de confianza en Bajo y superior para detectar la mayoría del contenido que se incluye en un tipo de filtro. También puedes seleccionar el nivel de confianza para todos los tipos de contenido a la vez.

  9. Haz clic en Crear.

gcloud

Ejecuta el siguiente comando:

gcloud alpha model-armor templates create template_id --location location [filters]

Reemplaza lo siguiente:

  • LOCATION: Es la ubicación de la plantilla.
  • TEMPLATE_ID: Es el ID de la plantilla.

Este es un ejemplo con todos los filtros.

 gcloud alpha model-armor templates create --location location "template_id" 

  --rai-settings-filters='[{ "filterType": "HATE_SPEECH", "confidenceLevel": "MEDIUM_AND_ABOVE" },{ "filterType": "HARASSMENT", "confidenceLevel": "MEDIUM_AND_ABOVE" },{ "filterType": "SEXUALLY_EXPLICIT", "confidenceLevel": "MEDIUM_AND_ABOVE" }]' 

  --basic-config-filter-enforcement=enabled  

  --pi-and-jailbreak-filter-settings-enforcement=enabled 

  --pi-and-jailbreak-filter-settings-confidence-level=LOW_AND_ABOVE 

  --malicious-uri-filter-settings-enforcement=enabled 

  --template-metadata-custom-llm-response-safety-error-code=798 

  --template-metadata-custom-llm-response-safety-error-message="test template llm response evaluation failed" 

  --template-metadata-custom-prompt-safety-error-code=799 

  --template-metadata-custom-prompt-safety-error-message="test template prompt evaluation failed" 

  --template-metadata-ignore-partial-invocation-failures 

  --template-metadata-log-operations 

  --template-metadata-log-sanitize-operations

API de REST

Usa este comando para crear una nueva plantilla de Model Armor.

curl -X POST \
-d "{'filter_config': {} }" \
-H "Content-Type: application/json" \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
  "https://modelarmor.LOCATION_ID.rep.googleapis.com/v1/projects/$PROJECT_ID/locations/$LOCATION/templates?template_id=$TEMPLATE_ID"

Reemplaza lo siguiente:

  • Filter_config es la configuración del filtro para la plantilla.
  • PROJECT_ID es el ID del proyecto al que pertenece la plantilla.
  • TEMPLATE_ID es el ID de la plantilla que se creará.
  • LOCATION es la ubicación de la plantilla.
  • gcloud auth print-access-token es el token de acceso de la cuenta especificada. Sigue estos pasos para obtener este token.

En el siguiente ejemplo, se explica la configuración de la plantilla de Model Armor.

  1. Crea una configuración (en este caso, FILTER_CONFIG) de los filtros que deseas que la plantilla de Model Armor analice y en qué nivel de confianza, si corresponde.
  2. Crea una plantilla de Model Armor (en este caso, ma-template-id-1234) con la configuración que creaste.

Ten en cuenta que LOW_AND_ABOVE significa que se marcará todo el contenido con una probabilidad de LOW, MEDIUM o HIGH.

  export FILTER_CONFIG='{
 "filterConfig": {
  "raiSettings": {
    "raiFilters": [{
      "filterType": "HATE_SPEECH",
      "confidenceLevel": "MEDIUM_AND_ABOVE"
    }, {
      "filterType": "HARASSMENT",
      "confidenceLevel": "HIGH"
    }, {
      "filterType": "DANGEROUS",
      "confidenceLevel": "MEDIUM_AND_ABOVE"
    },{
      "filterType": "SEXUALLY_EXPLICIT",
      "confidenceLevel": "MEDIUM_AND_ABOVE"
    }]
  },

  "piAndJailbreakFilterSettings": {
    "filterEnforcement": "ENABLED",
    "confidenceLevel": "LOW_AND_ABOVE"
  },
  "maliciousUriFilterSettings": {
    "filterEnforcement": "ENABLED"
  }
 }
}'

curl -X POST \
 -d  $FILTER_CONFIG \
 -H "Content-Type: application/json" \
 -H "Authorization: Bearer $(gcloud auth print-access-token)" \
 "https://modelarmor.LOCATION.rep.googleapis.com/v1/projects/$PROJECT_ID/locations/LOCATION_ID/ templates?template_id=TEMPLATE_ID"

Cómo ver una plantilla de Model Armor

Console

  1. En la consola de Google Cloud, ve a la página Model Armor.

    Ve a Model Armor

  2. Verifica que estés viendo el proyecto en el que activaste la Armadura de modelos. Se mostrará la página Model Armor, en la que se enumeran las plantillas creadas para tu proyecto.

  3. Haz clic en cualquier plantilla de la lista para ver sus detalles.

gcloud

Ejecuta el siguiente comando:

gcloud alpha model-armor templates describe template_id --location location

Reemplaza lo siguiente:

  • LOCATION: Es la ubicación de la plantilla.
  • TEMPLATE_ID: El ID de la plantilla.

API de REST

Ejecuta el siguiente comando:

curl -X GET \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
"https://modelarmor.LOCATION_ID.rep.googleapis.com/v1/projects/$PROJECT_ID/locations/$LOCATION/templates/$TEMPLATE_ID"

Reemplaza lo siguiente:

  • gcloud auth print-access-token es el token de acceso de la cuenta especificada.
  • PROJECT_ID: Es el ID del proyecto al que pertenece la plantilla.
  • LOCATION: Es la ubicación de la plantilla.
  • TEMPLATE_ID: El ID de la plantilla.

Actualiza una plantilla de Model Armor

Console

  1. En la consola de Google Cloud, ve a la página Model Armor.

    Ve a Model Armor

  2. Verifica que estés viendo el proyecto en el que activaste la Armadura de modelos. Se mostrará la página Model Armor, en la que se enumeran las plantillas creadas para tu organización.

  3. En la lista, haz clic en la plantilla que deseas actualizar. Se mostrará la página Detalles de la plantilla.

  4. Haz clic en Editar.

  5. Actualiza los parámetros obligatorios y haz clic en Guardar.

gcloud

Ejecuta el siguiente comando:

gcloud alpha model-armor templates update template_id --location location [filters]

Reemplaza lo siguiente:

  • LOCATION: Es la ubicación de la plantilla.
  • TEMPLATE_ID: El ID de la plantilla.

API de REST

Ejecuta el siguiente comando:

curl -X PATCH \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
-d $FILTER_CONFIG \
"https://modelarmor.LOCATION_ID.rep.googleapis.com/v1/projects/$PROJECT_ID/locations/$LOCATION/templates/$TEMPLATE_ID?update_mask=filter_config"

Reemplaza lo siguiente:

  • gcloud auth print-access-token es el token de acceso de la cuenta especificada.
  • PROJECT_ID: Es el ID del proyecto al que pertenece la plantilla.
  • LOCATION: Es la ubicación de la plantilla.
  • TEMPLATE_ID: El ID de la plantilla.
  • FILTER_CONFIG: Es la representación JSON de la configuración del filtro.

Todos los demás campos son inmutables. Los intentos de actualizar otros campos (por ejemplo, los intentos de actualizar el nombre de la plantilla) generan un error.

Borra una plantilla de Model Armor

Console

  1. En la consola de Google Cloud, ve a la página Model Armor.

    Ir a Model Armor

  2. Verifica que estés viendo el proyecto en el que activaste la Armadura de modelos. Se mostrará la página Model Armor, en la que se enumeran las plantillas creadas para tu organización.

  3. Haz clic en la plantilla que deseas borrar de la lista. Se mostrará la página Detalles de la plantilla.

  4. Haz clic en Borrar. Aparecerá un diálogo de confirmación.

  5. Ingresa el nombre de la plantilla para confirmar la eliminación y haz clic en Borrar.

gcloud

Ejecuta el siguiente comando:

gcloud alpha model-armor templates delete template_id --location location

Reemplaza lo siguiente:

  • LOCATION: Es la ubicación de la plantilla.
  • TEMPLATE_ID: El ID de la plantilla.

API de REST

Ejecuta el siguiente comando:

curl -X DELETE \
-H "Authorization: Bearer $(gcloud auth print-access-token)"  \
"https://modelarmor.LOCATION_ID.rep.googleapis.com/v1/projects/$PROJECT_ID/locations/$LOCATION/templates/$TEMPLATE_ID"

Reemplaza lo siguiente:

  • gcloud auth print-access-token es el token de acceso de la cuenta especificada.
  • PROJECT_ID: Es el ID del proyecto al que pertenece la plantilla.
  • LOCATION: Es la ubicación de la plantilla.
  • TEMPLATE_ID: Es el ID de la plantilla.

¿Qué sigue?