Model Armor-Vorlagen erstellen und verwalten

Auf dieser Seite wird beschrieben, wie Sie Model Armor-Vorlagen erstellen, aufrufen, aktualisieren und löschen.

Model Armor-Vorlage erstellen

Console

1. Rufen Sie in der Google Cloud Console die Seite Model Armor auf.

   Zu Model Armor

2. Prüfen Sie, ob Sie sich das Projekt ansehen, für das Sie Model Armor aktiviert haben.

3. Klicken Sie auf der Seite Model Armor auf Vorlage erstellen. Die Seite Vorlage erstellen wird angezeigt.

4. Geben Sie die Vorlagen-ID an. Die Vorlagen-ID kann Buchstaben, Ziffern oder Bindestriche enthalten. Sie darf maximal 63 Zeichen lang sein, keine Leerzeichen enthalten und nicht mit einem Bindestrich beginnen.

5. Wählen Sie eine Region aus, in der Sie die Model Armor-Vorlagen ausführen möchten. Sie können die Region später nicht mehr ändern.

6. Optional: Fügen Sie Labels hinzu. Labels sind Schlüssel/Wert-Paare, mit denen Sie ähnliche Vorlagen gruppieren können.

7. Konfigurieren Sie im Abschnitt Erkenntnisse die folgenden Erkennungseinstellungen:

   • Erkennung schädlicher URLs: Identifiziert Webadressen (URLs), die Nutzern oder Systemen schaden sollen. Diese URLs können zu Phishing-Websites, Malware-Downloads oder anderen Cyberangriffen führen. Weitere Informationen finden Sie unter Erkennung schädlicher URLs.

   • Erkennung von Prompt Injection und Jailbreaking: Erkennt schädliche Inhalte und Jailbreak-Versuche in einem Prompt. Wenn Sie eine strengere Erzwingung wünschen, legen Sie das Konfidenzniveau auf Niedrig und höher** fest. Damit werden die meisten Inhalte erkannt, bei denen es sich wahrscheinlich um eine Prompt Injection und einen Jailbreak-Versuch handelt. Weitere Informationen finden Sie unter Erkennung von Prompt Injection und Jailbreaking.

   • Schutz sensibler Daten: Erkennt sensible Daten, verhindert eine versehentliche Offenlegung und blockiert Versuche, Daten aus KI-Modellen durch Angriffe wie Prompt Injection zu extrahieren. Weitere Informationen finden Sie unter Schutz sensibler Daten.

     Sie können den Schutz sensibler Daten entweder auf einfache oder erweiterte Weise festlegen.

     • Einfach: Hier werden vordefinierte infoTypes zum Erkennen sensibler Datentypen verwendet. Weitere Informationen zu diesem vordefinierten infoType finden Sie unter Grundlegende Konfiguration für den Schutz sensibler Daten.

     • Erweitert: Im Sensitive Data Protection-Dienst definierte Inspektionsvorlage als einzige Quelle für infoTypes von sensiblen Daten verwenden.

       Wenn Sie den erweiterten Schutz sensibler Daten auswählen, müssen Sie die folgenden Parameter angeben:

       • Inspektionsvorlage: Vorlagen zum Speichern von Konfigurationsinformationen für Inspektionsscanjobs, einschließlich der zu verwendenden vordefinierten oder benutzerdefinierten Detektoren. Geben Sie den Namen der Vorlage im folgenden Format ein: projects/projectName/locations/locationID/inspectTemplates/templateName

       • Optional: De-Identifikationsvorlage: Vorlagen zum Speichern von Konfigurationsinformationen für De-Identifikationsjobs, einschließlich Transformationen von infoTypes und strukturierten Datasets. Geben Sie eine Kennung für die De-Identifikationsvorlage im folgenden Format ein: projects/projectName/locations/locationID/deidentifyTemplates/templateName

         Hinweis: Wenn Sie nur Vorlage prüfen angeben, meldet Model Armor die Filterübereinstimmungen, wenn sensible Daten erkannt werden. Wenn Sie Inspect template (Inspektionsvorlage) und De-identify template (De-Identifikationsvorlage) angeben, gibt Model Armor die de-identifizierten sensiblen Daten und die gesäuberte Version von Prompts oder Antworten im Feld deidentifyResult.data.text des Ergebnisses zurück.

8. Im Abschnitt Verantwortungsbewusste KI können Sie das Konfidenzniveau für jeden Inhaltsfilter festlegen. Das Konfidenzniveau gibt an, wie wahrscheinlich es ist, dass die Ergebnisse einem Inhaltsfiltertyp entsprechen. Folgende Werte sind möglich:

   • Kein: Es wird kein Inhaltstyp erkannt.
   • Niedrig und höher: Inhalte mit niedrigem, mittlerem oder hohem Konfidenzniveau werden erkannt.
   • Mittel und höher: Inhalte mit mittlerem oder hohem Konfidenzniveau werden erkannt.
   • Hoch: Inhalte mit hohem Konfidenzniveau werden erkannt.

   Wenn Sie eine strengere Erzwingung wünschen, legen Sie das Konfidenzniveau auf Niedrig und höher fest. Damit werden die meisten Inhalte erkannt, die in einen bestimmten Inhaltsfiltertyp fallen. Sie können das Konfidenzniveau auch für alle Inhaltstypen gleichzeitig auswählen.

   Hinweis: Wenn Sie kein Konfidenzniveau angeben, wird standardmäßig MEDIUM_AND_ABOVE verwendet.

9. Klicken Sie auf Erstellen.

gcloud

Führen Sie dazu diesen Befehl aus:

gcloud alpha model-armor templates create template_id --location location [filters]

Ersetzen Sie Folgendes:

• LOCATION: Speicherort der Vorlage.
• TEMPLATE_ID: Die ID der Vorlage.

Hier ein Beispiel mit allen Filtern.

 gcloud alpha model-armor templates create --location location "template_id" 

  --rai-settings-filters='[{ "filterType": "HATE_SPEECH", "confidenceLevel": "MEDIUM_AND_ABOVE" },{ "filterType": "HARASSMENT", "confidenceLevel": "MEDIUM_AND_ABOVE" },{ "filterType": "SEXUALLY_EXPLICIT", "confidenceLevel": "MEDIUM_AND_ABOVE" }]' 

  --basic-config-filter-enforcement=enabled  

  --pi-and-jailbreak-filter-settings-enforcement=enabled 

  --pi-and-jailbreak-filter-settings-confidence-level=LOW_AND_ABOVE 

  --malicious-uri-filter-settings-enforcement=enabled 

  --template-metadata-custom-llm-response-safety-error-code=798 

  --template-metadata-custom-llm-response-safety-error-message="test template llm response evaluation failed" 

  --template-metadata-custom-prompt-safety-error-code=799 

  --template-metadata-custom-prompt-safety-error-message="test template prompt evaluation failed" 

  --template-metadata-ignore-partial-invocation-failures 

  --template-metadata-log-operations 

  --template-metadata-log-sanitize-operations
  

REST APIs

Mit diesem Befehl können Sie eine neue Model Armor-Vorlage erstellen.

curl -X POST \
-d "{'filter_config': {} }" \
-H "Content-Type: application/json" \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
  "https://modelarmor.LOCATION_ID.rep.googleapis.com/v1/projects/$PROJECT_ID/locations/$LOCATION/templates?template_id=$TEMPLATE_ID"

Ersetzen Sie Folgendes:

• Filter_config ist die Filterkonfiguration für die Vorlage.
• PROJECT_ID ist die ID des Projekts, zu dem die Vorlage gehört.
• TEMPLATE_ID ist die ID der zu erstellenden Vorlage.
• LOCATION ist der Speicherort der Vorlage.
• gcloud auth print-access-token ist das Zugriffstoken für das angegebene Konto. Folgen Sie dieser Anleitung, um dieses Token zu erhalten.

Im folgenden Beispiel wird die Konfiguration der Vorlage „Model Armor“ erläutert.

1. Erstellen Sie eine Konfiguration (in diesem Fall FILTER_CONFIG), mit der Sie festlegen, nach welchen Filtern die Vorlage „Model Armor“ suchen soll und mit welcher Konfidenzstufe (falls zutreffend).
2. Erstellen Sie mit der von Ihnen erstellten Konfiguration eine Model Armor-Vorlage (in diesem Fall ma-template-id-1234).

Hinweis: Bei LOW_AND_ABOVE werden alle Inhalte mit einer Wahrscheinlichkeit von NIEDRIG, MITTEL oder HOCH gemeldet.

  export FILTER_CONFIG='{
 "filterConfig": {
  "raiSettings": {
    "raiFilters": [{
      "filterType": "HATE_SPEECH",
      "confidenceLevel": "MEDIUM_AND_ABOVE"
    }, {
      "filterType": "HARASSMENT",
      "confidenceLevel": "HIGH"
    }, {
      "filterType": "DANGEROUS",
      "confidenceLevel": "MEDIUM_AND_ABOVE"
    },{
      "filterType": "SEXUALLY_EXPLICIT",
      "confidenceLevel": "MEDIUM_AND_ABOVE"
    }]
  },

  "piAndJailbreakFilterSettings": {
    "filterEnforcement": "ENABLED",
    "confidenceLevel": "LOW_AND_ABOVE"
  },
  "maliciousUriFilterSettings": {
    "filterEnforcement": "ENABLED"
  }
 }
}'

curl -X POST \
 -d  $FILTER_CONFIG \
 -H "Content-Type: application/json" \
 -H "Authorization: Bearer $(gcloud auth print-access-token)" \
 "https://modelarmor.LOCATION.rep.googleapis.com/v1/projects/$PROJECT_ID/locations/LOCATION_ID/ templates?template_id=TEMPLATE_ID"
 

Model Armor-Vorlage ansehen

Console

1. Rufen Sie in der Google Cloud Console die Seite Model Armor auf.

   Zu Model Armor

2. Prüfen Sie, ob Sie sich das Projekt ansehen, für das Sie Model Armor aktiviert haben. Die Seite Model Armor (Modellschutz) wird angezeigt. Dort sind die für Ihr Projekt erstellten Vorlagen aufgeführt.

3. Klicken Sie auf eine beliebige Vorlage in der Liste, um die zugehörigen Details aufzurufen.

gcloud

Führen Sie dazu diesen Befehl aus:

gcloud alpha model-armor templates describe template_id --location location

Ersetzen Sie Folgendes:

• LOCATION: Speicherort der Vorlage.
• TEMPLATE_ID: Die ID der Vorlage.

REST APIs

Führen Sie dazu diesen Befehl aus:

curl -X GET \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
"https://modelarmor.LOCATION_ID.rep.googleapis.com/v1/projects/$PROJECT_ID/locations/$LOCATION/templates/$TEMPLATE_ID"

Ersetzen Sie Folgendes:

• gcloud auth print-access-token ist das Zugriffstoken für das angegebene Konto.
• PROJECT_ID: die ID des Projekts, zu dem die Vorlage gehört.
• LOCATION: Speicherort der Vorlage.
• TEMPLATE_ID: Die ID der Vorlage.

Model Armor-Vorlage aktualisieren

Console

1. Rufen Sie in der Google Cloud Console die Seite Model Armor auf.

   Zu Model Armor

2. Prüfen Sie, ob Sie sich das Projekt ansehen, für das Sie Model Armor aktiviert haben. Die Seite Model Armor wird angezeigt. Dort sind die für Ihre Organisation erstellten Vorlagen aufgeführt.

3. Klicken Sie in der Liste auf die Vorlage, die Sie aktualisieren möchten. Die Seite Vorlagendetails wird angezeigt.

4. Klicken Sie auf Bearbeiten.

5. Aktualisieren Sie die erforderlichen Parameter und klicken Sie auf Speichern.

Hinweis: Sie können die Vorlagen-ID und den Speicherort nicht aktualisieren.

gcloud

Führen Sie dazu diesen Befehl aus:

gcloud alpha model-armor templates update template_id --location location [filters]

Ersetzen Sie Folgendes:

• LOCATION: Speicherort der Vorlage.
• TEMPLATE_ID: Die ID der Vorlage.

REST APIs

Führen Sie dazu diesen Befehl aus:

curl -X PATCH \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
-d $FILTER_CONFIG \
"https://modelarmor.LOCATION_ID.rep.googleapis.com/v1/projects/$PROJECT_ID/locations/$LOCATION/templates/$TEMPLATE_ID?update_mask=filter_config"

Ersetzen Sie Folgendes:

• gcloud auth print-access-token ist das Zugriffstoken für das angegebene Konto.
• PROJECT_ID: die ID des Projekts, zu dem die Vorlage gehört.
• LOCATION: Speicherort der Vorlage.
• TEMPLATE_ID: Die ID der Vorlage.
• FILTER_CONFIG – die JSON-Darstellung der Filterkonfiguration.

Alle anderen Felder sind unveränderlich. Versuche, andere Felder zu aktualisieren (z. B. den Namen der Vorlage), führen zu einem Fehler.

Model Armor-Vorlage löschen

Console

1. Rufen Sie in der Google Cloud Console die Seite Model Armor auf.

   Zu Model Armor

2. Prüfen Sie, ob Sie sich das Projekt ansehen, für das Sie Model Armor aktiviert haben. Die Seite Model Armor wird angezeigt. Dort sind die für Ihre Organisation erstellten Vorlagen aufgeführt.

3. Klicken Sie auf die Vorlage, die Sie aus der Liste löschen möchten. Die Seite Vorlagendetails wird angezeigt.

4. Klicken Sie auf Löschen. Es wird ein Bestätigungsdialogfeld angezeigt.

5. Geben Sie den Namen der Vorlage ein, um das Löschen zu bestätigen, und klicken Sie auf Löschen.

Hinweis: Achten Sie darauf, dass die zu löschende Vorlage von keinem Modell verwendet wird.

gcloud

Führen Sie dazu diesen Befehl aus:

gcloud alpha model-armor templates delete template_id --location location

Ersetzen Sie Folgendes:

• LOCATION: Speicherort der Vorlage.
• TEMPLATE_ID: Die ID der Vorlage.

REST APIs

Führen Sie dazu diesen Befehl aus:

curl -X DELETE \
-H "Authorization: Bearer $(gcloud auth print-access-token)"  \
"https://modelarmor.LOCATION_ID.rep.googleapis.com/v1/projects/$PROJECT_ID/locations/$LOCATION/templates/$TEMPLATE_ID"

Ersetzen Sie Folgendes:

• gcloud auth print-access-token ist das Zugriffstoken für das angegebene Konto.
• PROJECT_ID: die ID des Projekts, zu dem die Vorlage gehört.
• LOCATION: Speicherort der Vorlage.
• TEMPLATE_ID: Die ID der Vorlage.

Nächste Schritte

• Weitere Informationen zu Model Armor
• Weitere Informationen zu den Einstellungen für Model Armor-Etagen
• Prompts und Antworten bereinigen
• Probleme mit Model Armor beheben