Zugriff auf Model Garden-Modelle steuern

Mit der Organisationsrichtlinie von Model Garden können Sie zentral steuern, auf welche Modelle Ihre Nutzer zugreifen und welche Aktionen sie ausführen können. Standardmäßig kann jeder Nutzer, der berechtigt ist, Vertex AI zu verwenden, Model Garden verwenden, um eine Vielzahl von Modellen von Google und Drittanbietern zu finden, anzupassen und bereitzustellen.

Das Festlegen einer Model Garden-Richtlinie kann beispielsweise nützlich sein, wenn Sie eine Reihe von genehmigten Google- und Drittanbietermodellen haben, die in Produktionsumgebungen verwendet werden können. Sie können eine Richtlinie auf Organisations-, Ordner- oder Projektebene definieren, damit Ihre Nutzer nur auf die genehmigten Modelle zugreifen können. Eine Richtlinie gilt für alle Hauptkonten. Eine Organisationsrichtlinie ist keine Richtlinie pro Nutzer. Weitere Informationen finden Sie unter Einführung in den Organisationsrichtliniendienst.

Richtlinienbewertungen

Bei der Auswertung werden alle Richtlinien geprüft, die zu einer bestimmten Ressource beitragen. Nur die anwendbaren Richtlinien werden zusammengeführt und dann ausgewertet. Ein expliziter Wert für „Deny“ (Verweigern) hat Vorrang vor einem expliziten Wert für „Allow“ (Zulassen).

Angenommen, Sie haben eine Ordnerrichtlinie, die ein bestimmtes Modell ablehnt, und eine Projektrichtlinie, die dasselbe Modell zulässt. Angenommen, die Richtlinien werden zusammengeführt, wird der Zugriff auf das Modell auf Projektebene verweigert, da die explizite Ablehnungsrichtlinie auf Ordnerebene Vorrang hat. Wenn Sie jedoch die Projektrichtlinie so festlegen, dass alle übergeordneten Richtlinien überschrieben werden, ist der Zugriff auf das Modell auf Projektebene zulässig.

Weitere Informationen finden Sie in der Resource Manager-Dokumentation unter Informationen zu Evaluierungen der Hierarchie.

Hinweise

  • Die Model Garden-Richtlinie für Organisationen gilt nur für Modelle in Model Garden. Diese Richtlinie gilt beispielsweise nicht für Modelle, die in der Vertex AI Model Registry registriert sind.
  • Eine Organisationsrichtlinie darf nicht mehr als 500 zulässige und abgelehnte Werte enthalten.
  • Bei einer benutzerdefinierten Richtlinie müssen Sie jedes Modell einzeln angeben. Sie können keine Gruppe von Modellen zulassen oder ablehnen. Sie können beispielsweise nicht alle Modelle von Drittanbietern ablehnen oder die Vorhersageaktion nur für Google-Modelle zulassen.
  • Bei Gemini-Modellen können Sie bestimmte Modellversionen zulassen oder ablehnen, z. B. gemini-1.5-pro-002. Andere Google-Modelle unterstützen diese Detailebene nicht. Eine text-bison-Richtlinie gilt beispielsweise für alle Versionen des text-bison-Modells.

Richtliniendetails

Wenn Sie eine Richtlinie festlegen, definieren Sie eine der folgenden Aktionen:

  • Alle Modelle zulassen.
  • Alle Modelle ablehnen.
  • Legen Sie eine benutzerdefinierte Richtlinienregel fest, um eine bestimmte Liste von Modellen zuzulassen oder abzulehnen.

Wenn keine Richtlinie festgelegt oder übernommen wurde, sind standardmäßig alle Modelle und Aktionen zulässig.

Bei einer benutzerdefinierten Ablehnungsrichtlinie lehnen Sie eine Liste von Modellen explizit ab und stimmen allen anderen Modellen implizit zu. Bei einer benutzerdefinierten Zulassungsrichtlinie können Sie eine Liste von Modellen explizit zulassen und alle anderen Modelle implizit ablehnen.

Wenn Sie Modelle in einer benutzerdefinierten Richtlinie und optional auch eine bestimmte Modellaktion angeben möchten, verwenden Sie das folgende Format:

publishers/PUBLISHER/models/MODEL_NAME:ACTION

Ersetzen Sie Folgendes:

  • PUBLISHER: Der Name des Publishers, dem das Modell gehört, auf das Ihre Richtlinie angewendet wird.
  • MODE_NAME: der Name des Modells, das zugelassen oder abgelehnt werden soll.
  • ACTION: Eine Modellaktion, die in die Richtlinie aufgenommen werden soll.

Wenn Sie beispielsweise eine Richtlinienregel für Vorhersagen mit dem Modell gemini-1.5-pro-002 definieren möchten, geben Sie publishers/google/models/gemini-1.5-pro-002:predict an.

Die vollständig qualifizierte ID (publishers/PUBLISHER/models/MODEL_NAME) wird auch als Modell-ID bezeichnet. Die Modell-ID eines Modells finden Sie auf der entsprechenden Modellkarte in Model Garden. Links zu Modellkarten finden Sie in der Liste der Modelle unter KI-Modelle in Model Garden entdecken.

Modellaktionen

Für jedes Modell können Sie die folgenden Aktionen zulassen oder verweigern:

  • predict: Gibt an, ob Nutzer Online- und Batch-Vorhersagen mit einem Modell mit einer verwalteten API (Modell als Dienst) durchführen können.
  • deploy: Gibt für Modelle ohne verwaltete API an, ob Nutzer Modelle in Google Cloud bereitstellen können. Diese Aktion gilt beispielsweise für Bereitstellungen mit nur einem Klick in der Google Cloud Console.
  • tune: Gibt an, ob Nutzer Modelle optimieren können.

Richtlinie festlegen

Sie können eine Richtlinie für Model Garden mit der Google Cloud Console oder der Google Cloud CLI festlegen. Der Name der Einschränkung lautet vertexai.allowedModels. Weitere Informationen zum Festlegen von Richtlinien finden Sie in der Resource Manager-Dokumentation unter den folgenden Themen:

Beispielrichtlinien

Die folgenden Beispielrichtlinien sind im YAML-Format, das Sie verwenden, wenn Sie eine Richtlinie über die gcloud CLI festlegen.

Eine Reihe von Modellen ablehnen und alle anderen zulassen

Im folgenden Beispiel werden Aktionen für eine bestimmte Gruppe von Modellen abgelehnt.

name: organizations/ORGANIZATION_ID/policies/vertexai.allowedModels
spec:
  rules:
    values:
      deniedValues:
      - publishers/google/models/gemini-1.5-pro-002:predict
      - publishers/meta/models/llama3:deploy
      - publishers/google/models/gemini-pro:tune
      - publishers/hf-google/models/gemma-2b:deploy

Ersetzen Sie ORGANIZATION_ID durch die ID Ihrer Google Cloud-Organisation. Weitere Informationen finden Sie unter Eine Organisationsressource beziehen.

Eine Reihe von Modellen zulassen und alle anderen ablehnen

Im folgenden Beispiel sind Aktionen für eine bestimmte Gruppe von Modellen zulässig.

name: organizations/ORGANIZATION_ID/policies/vertexai.allowedModels
spec:
  rules:
    values:
      allowedValues:
      - publishers/google/models/gemini-1.5-pro-002:predict
      - publishers/meta/models/llama3:deploy
      - publishers/google/models/gemini-pro:tune
      - publishers/hf-google/models/gemma-2b

Bestimmte Versionen eines Gemini-Modells zulassen

Sie können bestimmte Vorstellungen von Gemini-Modellen angeben. Sie können beispielsweise eine Richtlinie für die folgenden Fälle festlegen:

  • Alle Gemini Pro-Modelle
  • Alle Versionen des Gemini 1.5 Pro-Modells
  • Eine bestimmte Version des Gemini 1.5 Pro-Modells

Bei allen anderen Modellen können Sie keine bestimmten Versionen angeben.

name: organizations/ORGANIZATION_ID/policies/vertexai.allowedModels
spec:
  rules:
    values:
      allowedValues:
      - publishers/google/models/gemini-pro:predict
      - publishers/google/models/gemini-1.5-pro:predict
      - publishers/google/models/gemini-1.5-pro-002:predict

Nächste Schritte

Weitere Informationen zu Model Garden und seinen Angeboten