Missbrauchsüberwachung

Wie in Abschnitt 4.3 „Sicherheit und Missbrauch bei generativer KI“ der Nutzungsbedingungen der Google Cloud beschrieben, verwendet Google den folgenden Prozess, um potenziellen Missbrauch und Verstöße gegen die Richtlinie zur Fairen Nutzung und die Richtlinie zur unzulässigen Nutzung im Rahmen der Bereitstellung von Diensten für generative KI für Kunden zu erkennen.

  • Automatische Erkennung: Google verwendet automatisierte Sicherheitsklassifizierungen, um potenziellen Missbrauch und Verstöße zu erkennen. Technische Details zur Funktionsweise von Sicherheitsklassifikatoren finden Sie unter Sicherheitsfilter konfigurieren.
  • Aufzeichnung von Prompts: Wenn automatisierte Sicherheitsklassifikatoren verdächtige Aktivitäten erkennen, die eine weitere Prüfung erfordern, ob ein Kunde gegen unsere Richtlinien verstoßen hat, kann Google Prompts von Kunden ausschließlich zum Zweck der Prüfung auf Verstöße gegen die Richtlinien für die Faire Nutzung oder die Richtlinie zu unzulässiger Nutzung erfassen. Diese Daten werden nicht zum Trainieren oder Optimieren von KI-/ML-Modellen verwendet. Diese Daten werden bis zu 30 Tage lang sicher in der Region oder Mehrfachregion gespeichert, die der Kunde für sein Projekt ausgewählt hat. Dabei werden Google Cloud Sicherheitsmaßnahmen wie der Datenstandort, Access Transparency und VPC Service Controls eingehalten. Kunden haben außerdem die Möglichkeit, die Erfassung von Missbrauchsfällen zu deaktivieren (siehe unten).
  • Aktion: Autorisierte Google-Mitarbeiter können die gemeldeten Prompts prüfen und sich zur Klärung an den Kunden wenden. Wenn das Verhalten nicht korrigiert wird oder es zu wiederholten oder schwerwiegenden Verstößen kommt, kann das dazu führen, dass der Zugriff des Kunden auf Vertex AI oder Google Cloud -Dienste gesperrt oder gekündigt wird.
  • Abgedeckte Dienste: Vertex AI API, wenn sie mit den Large Language Models von Google verwendet wird.
  • Betroffene Kunden: Nur Kunden, deren Nutzung von Google Cloud durch die Nutzungsbedingungen der Google Cloud geregelt ist und die kein abrechnungsfähiges Cloud-Rechnungskonto haben, werden sofort protokolliert, um Missbrauch zu überwachen.
  • Widerruf durch Kunden: Kunden können eine Ausnahme beantragen, indem sie dieses Formular ausfüllen. Wenn die Genehmigung erteilt wird, speichert Google keine Prompts, die mit dem genehmigtenGoogle Cloud -Konto verknüpft sind.

Nächste Schritte