Diese Seite wurde von der Cloud Translation API übersetzt.

Model Armor-Vorlagen erstellen und verwalten

Auf dieser Seite wird beschrieben, wie Sie Model Armor-Vorlagen erstellen, aufrufen, aktualisieren und löschen.

Model Armor-Vorlage erstellen

Rufen Sie in der Google Cloud Console die Seite Model Armor auf.

Zu Model Armor
Prüfen Sie, ob Sie sich das Projekt ansehen, für das Sie Model Armor aktiviert haben.
Klicken Sie auf der Seite Model Armor auf Vorlage erstellen. Die Seite Vorlage erstellen wird angezeigt.
Geben Sie die Vorlagen-ID an. Die Vorlagen-ID kann Buchstaben, Ziffern oder Bindestriche enthalten. Er darf maximal 63 Zeichen lang sein, keine Leerzeichen enthalten und nicht mit einem Bindestrich beginnen.
Wählen Sie eine Region aus, in der Sie die Model Armor-Vorlagen ausführen möchten. Sie können die Region später nicht mehr ändern.
Optional: Fügen Sie Labels hinzu. Labels sind Schlüssel/Wert-Paare, mit denen Sie ähnliche Vorlagen gruppieren können.
Konfigurieren Sie im Abschnitt Erkenntnisse die folgenden Erkennungseinstellungen:
- Erkennung schädlicher URLs: Hiermit werden Webadressen (URLs) erkannt, die Nutzern oder Systemen schaden sollen. Diese URLs können zu Phishing-Websites, Malware-Downloads oder anderen Cyberangriffen führen. Weitere Informationen finden Sie unter Erkennung schädlicher URLs.
- Erkennung von Prompt Injection und Jailbreaking: Erkennt schädliche Inhalte und Jailbreak-Versuche in einem Prompt. Wenn Sie eine strengere Erzwingung wünschen, legen Sie das Konfidenzniveau auf Niedrig und höher** fest. Damit werden die meisten Inhalte erkannt, bei denen es sich wahrscheinlich um eine Prompt Injection und einen Jailbreak-Versuch handelt. Weitere Informationen finden Sie unter Erkennung von Prompt Injection und Jailbreaking.
- Schutz sensibler Daten: Erkennt sensible Daten und hilft, eine versehentliche Offenlegung durch Angriffe wie Prompt-Injection zu verhindern. Weitere Informationen finden Sie unter Schutz sensibler Daten.
  
  Sie können den Schutz sensibler Daten entweder auf einfache oder erweiterte Weise festlegen.
  - Einfach: Hier werden vordefinierte infoTypes zum Erkennen sensibler Datentypen verwendet. Weitere Informationen zum vordefinierten infoType finden Sie unter Grundlegende Konfiguration für den Schutz sensibler Daten.
  - Erweitert: Im Sensitive Data Protection-Dienst definierte Inspektionsvorlage als einzige Quelle für infoTypes von sensiblen Daten verwenden.
    
    Wenn Sie den erweiterten Schutz sensibler Daten auswählen, müssen Sie die folgenden Parameter angeben:
    - Inspektionsvorlage: Vorlagen zum Speichern von Konfigurationsinformationen für Inspektionsscanjobs, einschließlich der zu verwendenden vordefinierten oder benutzerdefinierten Detektoren. Geben Sie den Namen der Vorlage im folgenden Format ein: projects/projectName/locations/locationID/inspectTemplates/templateName
    - Optional: De-Identifikationsvorlage: Vorlagen zum Speichern von Konfigurationsinformationen für De-Identifikationsjobs, einschließlich Transformationen von infoTypes und strukturierten Datasets. Geben Sie eine Kennung für die De-Identifikationsvorlage im folgenden Format ein: projects/projectName/locations/locationID/deidentifyTemplates/templateName
      
      Hinweis: Wenn Sie nur Vorlage prüfen angeben, meldet Model Armor die Filterübereinstimmungen, wenn sensible Daten erkannt werden. Wenn Sie Inspect template (Inspektionsvorlage) und De-identify template (De-Identifikationsvorlage) angeben, gibt Model Armor die de-identifizierten sensiblen Daten und die gesäuberte Version von Prompts oder Antworten im Feld deidentifyResult.data.text des Ergebnisses zurück.
Im Bereich Verantwortungsbewusste KI können Sie das Konfidenzniveau für jeden Inhaltsfilter festlegen. Das Konfidenzniveau gibt an, wie wahrscheinlich es ist, dass die Ergebnisse einem Inhaltsfiltertyp entsprechen. Folgende Werte sind möglich:
- Kein: Es wird kein Inhaltstyp erkannt.
- Niedrig und höher: Inhalte mit niedrigem, mittlerem oder hohem Konfidenzniveau werden erkannt.
- Mittel und höher: Inhalte mit mittlerem oder hohem Konfidenzniveau werden erkannt.
- Hoch: Inhalte mit hohem Konfidenzniveau werden erkannt.
Wenn Sie eine strengere Erzwingung wünschen, legen Sie das Konfidenzniveau auf Niedrig und höher fest. Damit werden die meisten Inhalte erkannt, die in einen bestimmten Inhaltsfiltertyp fallen. Sie können das Konfidenzniveau auch für alle Inhaltstypen gleichzeitig auswählen.

Hinweis: Wenn Sie kein Konfidenzniveau angeben, wird standardmäßig MEDIUM_AND_ABOVE verwendet.
Klicken Sie auf Erstellen.

Führen Sie dazu diesen Befehl aus:

gcloud model-armor templates create TEMPLATE_ID --location LOCATION

Ersetzen Sie Folgendes:

LOCATION ist der Speicherort der Vorlage.
TEMPLATE_ID ist die ID der Vorlage.

Hier ein Beispiel mit allen Filtern.

 gcloud model-armor templates create --location LOCATION TEMPLATE_ID 

  --rai-settings-filters='[{ "filterType": "HATE_SPEECH", "confidenceLevel": "MEDIUM_AND_ABOVE" },{ "filterType": "HARASSMENT", "confidenceLevel": "MEDIUM_AND_ABOVE" },{ "filterType": "SEXUALLY_EXPLICIT", "confidenceLevel": "MEDIUM_AND_ABOVE" }]' 

  --basic-config-filter-enforcement=enabled  

  --pi-and-jailbreak-filter-settings-enforcement=enabled 

  --pi-and-jailbreak-filter-settings-confidence-level=LOW_AND_ABOVE 

  --malicious-uri-filter-settings-enforcement=enabled 

  --template-metadata-custom-llm-response-safety-error-code=798 

  --template-metadata-custom-llm-response-safety-error-message="test template llm response evaluation failed" 

  --template-metadata-custom-prompt-safety-error-code=799 

  --template-metadata-custom-prompt-safety-error-message="test template prompt evaluation failed" 

  --template-metadata-ignore-partial-invocation-failures 

  --template-metadata-log-operations 

  --template-metadata-log-sanitize-operations

Mit diesem Befehl können Sie eine neue Model Armor-Vorlage erstellen.

  curl -X POST \
    -d "{'FILTER_CONFIG': {} }" \
    -H "Content-Type: application/json" \
    -H "Authorization: Bearer $(gcloud auth print-access-token)" \
        "https://modelarmor.LOCATION.rep.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/templates?template_id=TEMPLATE_ID"

Ersetzen Sie Folgendes:

FILTER_CONFIG ist die Filterkonfiguration für die Vorlage.
PROJECT_ID ist die ID des Projekts, zu dem die Vorlage gehört.
TEMPLATE_ID ist die ID der zu erstellenden Vorlage.
LOCATION ist der Speicherort der Vorlage.

Folgen Sie dieser Anleitung, um dieses Token zu erhalten.

Im folgenden Beispiel wird die Konfiguration der Vorlage „Model Armor“ erläutert.

Erstellen Sie eine Konfiguration (in diesem Fall FILTER_CONFIG), für die die Vorlage „Model Armor“ nach welchen Filtern und gegebenenfalls mit welcher Konfidenzstufe suchen soll.
Erstellen Sie mit der von Ihnen erstellten Konfiguration eine Model Armor-Vorlage (in diesem Fall ma-template-id-1234).

Hinweis: Bei LOW_AND_ABOVE werden alle Inhalte mit einer Wahrscheinlichkeit von NIEDRIG, MITTEL oder HOCH gemeldet.

  export FILTER_CONFIG='{
   "filterConfig": {
    "raiSettings": {
     "raiFilters": [{
       "filterType": "HATE_SPEECH",
       "confidenceLevel": "MEDIUM_AND_ABOVE"
      }, {
      "filterType": "HARASSMENT",
      "confidenceLevel": "HIGH"
    }, {
      "filterType": "DANGEROUS",
      "confidenceLevel": "MEDIUM_AND_ABOVE"
    },{
      "filterType": "SEXUALLY_EXPLICIT",
      "confidenceLevel": "MEDIUM_AND_ABOVE"
    }]
  },

  "piAndJailbreakFilterSettings": {
    "filterEnforcement": "ENABLED",
    "confidenceLevel": "LOW_AND_ABOVE"
  },
  "maliciousUriFilterSettings": {
    "filterEnforcement": "ENABLED"
  }
 }
}'

curl -X POST \
 -d  $FILTER_CONFIG \
 -H "Content-Type: application/json" \
 -H "Authorization: Bearer $(gcloud auth print-access-token)" \
    "https://modelarmor.LOCATION.rep.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION_ID/ templates?template_id=TEMPLATE_ID"

Um diesen Befehl auszuführen, müssen Sie zuerst einen Model Armor-Client in Python initialisieren.

  request = modelarmor_v1.CreateTemplateRequest(
    parent="projects/PROJECT_ID/locations/LOCATION",
    template_id="TEMPLATE_ID",
    {
      "name": "projects/PROJECT_ID/locations/LOCATION/templates/TEMPLATE_ID",
      "filter_config": FILTER_CONFIG
    }
  )
  response = client.create_template(request=request)

Ersetzen Sie Folgendes:

FILTER_CONFIG ist die Filterkonfiguration für die Vorlage.
PROJECT_ID ist die ID des Projekts, zu dem die Vorlage gehört.
TEMPLATE_ID ist die ID der zu erstellenden Vorlage.
LOCATION ist der Speicherort der Vorlage.

Informationen zum Aktivieren eines umfassenden Loggings für eine Vorlage finden Sie unter Model Armor-Audit und Plattform-Logging.

Model Armor-Vorlage ansehen

Console gcloud REST Python

Rufen Sie in der Google Cloud Console die Seite Model Armor auf.

Zu Model Armor
Prüfen Sie, ob Sie sich das Projekt ansehen, für das Sie Model Armor aktiviert haben. Die Seite Model Armor (Modellschutz) wird angezeigt. Dort sind die für Ihr Projekt erstellten Vorlagen aufgeführt.
Klicken Sie auf eine Vorlage in der Liste, um die Details aufzurufen.

Führen Sie dazu diesen Befehl aus:

gcloud model-armor templates describe TEMPLATE_ID --location LOCATION

Ersetzen Sie Folgendes:

LOCATION ist der Speicherort der Vorlage.
TEMPLATE_ID ist die ID der Vorlage.

Führen Sie dazu diesen Befehl aus:

curl -X GET \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
  "https://modelarmor.LOCATION_ID.rep.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/templates/TEMPLATE_ID"

Ersetzen Sie Folgendes:

PROJECT_ID ist die ID des Projekts, zu dem die Vorlage gehört.
TEMPLATE_ID ist die ID der Vorlage, die angezeigt werden soll.
LOCATION ist der Speicherort der Vorlage.

Um diesen Befehl auszuführen, müssen Sie zuerst einen Model Armor-Client in Python initialisieren.

  request = modelarmor_v1.GetTemplateRequest(
    name="projects/PROJECT_ID/locations/LOCATION/templates/TEMPLATE_ID",
    )
  response = client.get_template(request=request)

Ersetzen Sie Folgendes:

PROJECT_ID ist die ID des Projekts, zu dem die Vorlage gehört.
TEMPLATE_ID ist die ID der Vorlage, die angezeigt werden soll.
LOCATION ist der Speicherort der Vorlage.

Model Armor-Vorlage aktualisieren

Console gcloud REST Python

Rufen Sie in der Google Cloud Console die Seite Model Armor auf.

Zu Model Armor
Prüfen Sie, ob Sie sich das Projekt ansehen, für das Sie Model Armor aktiviert haben. Die Seite Model Armor wird angezeigt. Dort sind die für Ihre Organisation erstellten Vorlagen aufgeführt.
Klicken Sie in der Liste auf die Vorlage, die Sie aktualisieren möchten. Die Seite Vorlagendetails wird angezeigt.
Klicken Sie auf Bearbeiten.
Aktualisieren Sie die erforderlichen Parameter und klicken Sie auf Speichern.

Führen Sie dazu diesen Befehl aus:

gcloud model-armor templates update TEMPLATE_ID --location LOCATION

Ersetzen Sie Folgendes:

LOCATION ist der Speicherort der Vorlage.
TEMPLATE_ID ist die ID der Vorlage.

Führen Sie dazu diesen Befehl aus:

curl -X PATCH \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
-d $FILTER_CONFIG \
  "https://modelarmor.LOCATION.rep.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/templates/TEMPLATE_ID?update_mask=FILTER_CONFIG"

Ersetzen Sie Folgendes:

PROJECT_ID ist die ID des Projekts, zu dem die Vorlage gehört.
LOCATION ist der Speicherort der Vorlage.
TEMPLATE_ID ist die ID der Vorlage.
FILTER_CONFIG ist die JSON-Darstellung der Filterkonfiguration.

Alle anderen Felder sind unveränderlich. Versuche, andere Felder zu aktualisieren (z. B. den Namen der Vorlage), führen zu einem Fehler.

Um diesen Befehl auszuführen, müssen Sie zuerst einen Model Armor-Client in Python initialisieren.

  request = modelarmor_v1.UpdateTemplateRequest(
    template={
      "name": "projects/PROJECT_ID/locations/LOCATION/templates/TEMPLATE_ID",
      "filter_config": FILTER_CONFIG
    }
  )
  response = client.update_template(request=request)

Ersetzen Sie Folgendes:

FILTER_CONFIG ist die Filterkonfiguration für die Vorlage.
PROJECT_ID ist die ID des Projekts, zu dem die Vorlage gehört.
TEMPLATE_ID ist die ID der zu aktualisierenden Vorlage.
LOCATION ist der Speicherort der Vorlage.

Model Armor-Vorlage löschen

Console gcloud REST Python

Rufen Sie in der Google Cloud Console die Seite Model Armor auf.

Zu Model Armor
Prüfen Sie, ob Sie sich das Projekt ansehen, für das Sie Model Armor aktiviert haben. Die Seite Model Armor wird angezeigt. Dort sind die für Ihre Organisation erstellten Vorlagen aufgeführt.
Klicken Sie auf die Vorlage, die Sie aus der Liste löschen möchten. Die Seite Vorlagendetails wird angezeigt.
Klicken Sie auf Löschen. Es wird ein Bestätigungsdialogfeld angezeigt.
Geben Sie den Namen der Vorlage ein, um das Löschen zu bestätigen, und klicken Sie auf Löschen.

Führen Sie dazu diesen Befehl aus:

gcloud model-armor templates delete TEMPLATE_ID --location LOCATION

Ersetzen Sie Folgendes:

LOCATION ist der Speicherort der Vorlage.
TEMPLATE_ID ist die ID der Vorlage.

Führen Sie dazu diesen Befehl aus:

curl -X DELETE \
-H "Authorization: Bearer $(gcloud auth print-access-token)"  \
  "https://modelarmor.LOCATION_ID.rep.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/templates/TEMPLATE_ID"

Ersetzen Sie Folgendes:

PROJECT_ID ist die ID des Projekts, zu dem die Vorlage gehört.
LOCATION ist der Speicherort der Vorlage.
TEMPLATE_ID ist die ID der Vorlage.

Um diesen Befehl auszuführen, müssen Sie zuerst einen Model Armor-Client in Python initialisieren.

  request = modelarmor_v1.DeleteTemplateRequest(
    name="projects/PROJECT_ID/locations/LOCATION/templates/TEMPLATE_ID",
  )
  response = client.delete_template(request=request)

Ersetzen Sie Folgendes:

PROJECT_ID ist die ID des Projekts, zu dem die Vorlage gehört.
TEMPLATE_ID ist die ID der Vorlage, die gelöscht werden soll.
LOCATION ist der Speicherort der Vorlage.

Model Armor-Vorlagen erstellen und verwalten

Model Armor-Vorlage erstellen

Model Armor-Vorlage ansehen

Model Armor-Vorlage aktualisieren

Model Armor-Vorlage löschen

Nächste Schritte