Offene Modelle verwenden

Sie können offene Modelle mit Vertex Generative AI verwenden. Ein offenes Modell ist kostenlos verfügbar, Sie können seine Ausgaben kostenlos veröffentlichen und es kann überall verwendet werden, sofern Sie seine Lizenzbedingungen einhalten. Wenn Sie ein offenes Modell mit Vertex Generative AI verwenden, verwenden Sie Vertex Generative AI für Ihre Infrastruktur. Sie können offene Modelle auch mit einem anderen Infrastrukturprodukt wie PyTorch oder Jax verwenden. Offene Modelle sollten nicht mit Open-Source-Modellen verwechselt werden, da offene Modelle nicht unbedingt Quellcode und Informationen bereitstellen, um das Modell von Grund auf zu trainieren.

Viele offene Modelle werden als offene Large Language Models (LLM) betrachtet. Offene Modelle bieten mehr Transparenz als Modelle, die nicht gewichtet sind. Die Gewichtungen eines Modells sind die numerischen Werte, die in der neuronalen Netzwerkarchitektur des Modells gespeichert sind und erlernte Muster und Beziehungen aus den Daten darstellen, mit denen ein Modell trainiert wird. Die vortrainierten Parameter oder Gewichtungen von offenen Gewichtungsmodellen werden freigegeben. Sie können ein offenes Gewichtungsmodell für Inferenz und Feinabstimmung verwenden, während Details wie das ursprüngliche Dataset, die Modellarchitektur und der Trainingscode nicht bereitgestellt werden.

Details zu einem offenen Modell und zu seiner Verwendung finden Sie auf der Modellkarte in Model Garden. Rufen Sie Model Garden auf und suchen Sie nach dem Namen, um auf die Modellkarte eines offenen Modells zuzugreifen. Weitere Informationen zu Model Garden finden Sie unter KI-Modelle in Model Garden entdecken.

Weitere Informationen zur Verwendung der offenen Modelle von Gemma und Llama finden Sie unter: