Monitoraggio degli abusi

Come descritto nella sezione 4.3 "Sicurezza e abusi dell'AI generativa" dei Termini di servizio della piattaforma Google Cloud, Google utilizza la seguente procedura per rilevare potenziali abusi e violazioni delle proprie Norme di utilizzo accettabile e Norme relative all'uso vietato nell'ambito della fornitura di servizi di AI generativa ai clienti.

  • Rilevamento automatico: Google utilizza classificatori di sicurezza automatici per rilevare potenziali abusi e violazioni. Per i dettagli tecnici sul funzionamento dei classificatori di sicurezza, vedi Configurare i filtri di sicurezza.
  • Registrazione dei prompt: se i classificatori di sicurezza automatizzati rilevano attività sospette che richiedono ulteriori indagini per verificare se un cliente ha violato le nostre norme, Google può registrare i prompt dei clienti esclusivamente allo scopo di esaminare se si è verificata una violazione delle Norme di utilizzo accettabile o delle Norme di utilizzo vietato. Questi dati non verranno utilizzati per addestrare o perfezionare i modelli di AI/ML. Questi dati vengono archiviati in modo sicuro per un massimo di 30 giorni nella stessa regione o multi-regione selezionata dal cliente per il suo progetto e rispettano le Google Cloud garanzie, come la residenza dei dati, Access Transparency e i Controlli di servizio VPC. I clienti hanno anche la possibilità di richiedere la disattivazione del logging degli abusi (vedi sotto).
  • Azione: i dipendenti Google autorizzati possono valutare i prompt segnalati e contattare il cliente per chiarimenti. Il mancato intervento in merito al comportamento o ad abusi gravi o ricorrenti potrebbe comportare la sospensione o l'interruzione dell'accesso del cliente a Vertex AI o ai servizi Google Cloud .
  • Servizi inclusi nell'ambito: API Vertex AI, se utilizzata con i modelli linguistici di grandi dimensioni di Google.
  • Clienti interessati: solo i clienti il cui utilizzo di Google Cloud è regolato dai Termini di servizio di Google Cloud Platform e che non dispongono di un account Fatturazione Cloud (offline) con fatturazione sono soggetti al logging dei prompt per il monitoraggio degli abusi.
  • Rinuncia del cliente: i clienti possono richiedere un'eccezione compilando questo modulo. Se approvati, Google non memorizzerà i prompt associati all'account Google Cloud approvato.

Passaggi successivi