Eigenständig bereitgestellte Modelle

Model Garden bietet sowohl selbst bereitgestellte offene Modelle, Partnermodelle und benutzerdefinierte Modelle, die Sie in Vertex AI bereitstellen und bereitstellen können. Diese Modelle unterscheiden sich von den Model-as-a-Service-Angeboten (MaaS), die serverlos sind und keine manuelle Bereitstellung erfordern.

Wenn Sie Modelle selbst bereitstellen, erfolgt die Bereitstellung sicher in Ihrem Google Cloud -Projekt und VPC-Netzwerk.

Offene Modelle mit Selbstbereitstellung

Offene Modelle bieten vortrainierte Funktionen für verschiedene KI-Aufgaben, einschließlich Gemini-Modelle, die sich durch eine hervorragende multimodale Verarbeitung auszeichnen. Ein offenes Modell ist kostenlos verfügbar, Sie können seine Ausgaben kostenlos veröffentlichen und es kann überall verwendet werden, sofern Sie seine Lizenzbedingungen einhalten. Vertex AI bietet sowohl offene (auch als Open-Weight bezeichnet) als auch Open-Source-Modelle.

Wenn Sie ein offenes Modell mit Vertex AI verwenden, verwenden Sie Vertex AI für Ihre Infrastruktur. Sie können offene Modelle auch mit anderen Infrastrukturprodukten wie PyTorch oder Jax verwenden.

Offene Gewichtungsmodelle

Viele offene Modelle werden als Large Language Models (LLMs) mit offenen Gewichten betrachtet. Offene Modelle bieten mehr Transparenz als Modelle, die nicht gewichtet sind. Die Gewichtungen eines Modells sind die numerischen Werte, die in der neuronalen Netzwerkarchitektur des Modells gespeichert sind und erlernte Muster und Beziehungen aus den Daten darstellen, mit denen ein Modell trainiert wird. Die vortrainierten Parameter oder Gewichtungen von offenen Gewichtungsmodellen werden freigegeben. Sie können ein offenes Gewichtungsmodell für Inferenz und Feinabstimmung verwenden, während Details wie das ursprüngliche Dataset, die Modellarchitektur und der Trainingscode nicht bereitgestellt werden.

Open-Source-Modelle

Offene Modelle unterscheiden sich von Open-Source-KI-Modellen. Offene Modelle geben zwar oft die Gewichtungen und die grundlegende numerische Darstellung der gelernten Muster an, enthalten aber nicht unbedingt den vollständigen Quellcode oder Trainingsdetails. Wenn Sie Gewichtungen angeben, erhalten Sie eine gewisse Transparenz in Bezug auf das KI-Modell. So können Sie die Funktionen des Modells nachvollziehen, ohne es selbst erstellen zu müssen.

Partnermodelle mit Selbstbereitstellung

In Model Garden können Sie Modelllizenzen von Partnern erwerben und verwalten, die proprietäre Modelle als Option zur Selbstbereitstellung anbieten. Nachdem Sie den Zugriff auf ein Modell über Cloud Marketplace erworben haben, können Sie es auf On-Demand-Hardware bereitstellen oder Ihre Compute Engine-Reservierungen und Rabatte für zugesicherte Nutzung verwenden, um Ihr Budget einzuhalten. Ihnen wird die Modellnutzung und die von Ihnen verwendete Vertex AI-Infrastruktur in Rechnung gestellt.

Wenn Sie die Nutzung eines selbst bereitgestellten Partnermodells anfordern möchten, suchen Sie das entsprechende Modell in der Model Garden Console, klicken Sie auf Vertrieb kontaktieren und füllen Sie dann das Formular aus. Dadurch wird ein Vertriebsmitarbeiter Google Cloud kontaktiert.

Weitere Informationen zum Bereitstellen und Verwenden von Partnermodellen finden Sie unter Partnermodell bereitstellen und Vorhersageanfragen stellen.

Hinweise

Beachten Sie bei der Verwendung selbst bereitgestellter Partnermodelle die folgenden Einschränkungen:

  • Im Gegensatz zu offenen Modellen können Sie keine Gewichte exportieren.
  • Wenn Sie VPC Service Controls für Ihr Projekt eingerichtet haben, können Sie keine Modelle hochladen. Daher können Sie auch keine Partnermodelle bereitstellen.
  • Bei Endpunkten wird nur der Typ freigegebener öffentlicher Endpunkt unterstützt.

Weitere Informationen zu selbst bereitgestellten Modellen in Vertex AI