Supervisión de abusos

Como se describe en el artículo 4.3 "Seguridad y Abuso de IA Generativa" de las Condiciones del Servicio de Google Cloud Platform, Google utiliza el siguiente proceso para detectar posibles abusos y incumplimientos de su Política de Uso Aceptable y Política de Uso Prohibido como parte de la prestación de servicios de IA generativa a los clientes.

  • Detección automática: Google usa clasificadores de seguridad automáticos para detectar posibles abusos y violaciones. Para obtener detalles técnicos sobre cómo funcionan los clasificadores de seguridad, consulta Configura filtros de seguridad.
  • Registro de instrucciones: Si los clasificadores de seguridad automatizados detectan actividad sospechosa que requiere una investigación adicional para determinar si un cliente incumplió nuestras políticas, Google podrá registrar las instrucciones del cliente únicamente con el fin de examinar si se produjo un incumplimiento de la AUP o la Política de Uso Prohibido. Estos datos no se usarán para entrenar ni ajustar ningún modelo de IA o AA. Estos datos se almacenan de forma segura durante un máximo de 30 días en la misma región o multirregión que el cliente seleccionó para su proyecto y cumplen con las garantías de Google Cloud, como la residencia de datos, la transparencia de acceso y los Controles del servicio de VPC. Los clientes también tienen la opción de solicitar que no se registren los abusos (consulta a continuación).
  • Acción: Los empleados autorizados de Google pueden evaluar las instrucciones marcadas y comunicarse con el cliente para obtener aclaraciones. Si no se aborda el comportamiento, o si se produce un abuso grave o recurrente, es posible que se suspenda o cancele el acceso del cliente a los servicios de Vertex AI o Google Cloud.
  • Servicios dentro del alcance: API de Vertex AI, cuando se usa con los modelos de lenguaje extenso de Google
  • Clientes dentro del alcance: Solo los clientes cuyo uso de Google Cloud está regido por las Condiciones del Servicio de Google Cloud Platform y que no tienen una cuenta de Facturación de Cloud facturada están sujetos a un registro inmediato para la supervisión de abusos.
  • Rechazo de los clientes: Los clientes pueden solicitar una excepción completando este formulario. Si se aprueba, Google no almacenará ninguna solicitud asociada con la cuenta de Google Cloud aprobada.

¿Qué sigue?