Qwen-Modelle in Vertex AI bieten vollständig verwaltete und serverlose Modelle als APIs. Wenn Sie ein Qwen-Modell für Vertex AI verwenden möchten, senden Sie eine Anfrage direkt an den API-Endpunkt von Vertex AI. Da Qwen-Modelle eine verwaltete API verwenden, muss keine Infrastruktur bereitgestellt oder verwaltet werden.
Sie können Ihre Antworten streamen, um die vom Endnutzer wahrgenommene Latenz zu reduzieren. Eine gestreamte Antwort verwendet vom Server gesendete Ereignisse (SSE, Server-Sent Events), um die Antwort schrittweise zu streamen.
Verfügbare Qwen-Modelle
Die folgenden Modelle sind von Qwen zur Verwendung in Vertex AI verfügbar. Rufen Sie die zugehörige Model Garden-Modellkarte auf, um auf ein Qwen-Modell zuzugreifen.
Qwen3 Coder (Qwen3-Coder-480B-A35B-Instruct)
Qwen3 Coder (Qwen3-Coder-480B-A35B-Instruct) ist ein groß angelegtes Open-Weight-Modell, das für anspruchsvolle Softwareentwicklungsaufgaben entwickelt wurde. Die wichtigste Funktion des Modells ist sein großes Kontextfenster, mit dem es große Codebases umfassend verarbeiten und verstehen kann.
Zur Modellkarte „Qwen3-Coder-480B-A35B-Instruct“
Qwen3 235B (Qwen3-235B-A22B-Instruct-2507)
Qwen3 235B (Qwen3-235B-A22B-Instruct-2507) ist ein großes Modell mit 235 Milliarden Parametern. Das Modell zeichnet sich durch seine Fähigkeit zum „hybriden Denken“ aus. Nutzer können dynamisch zwischen einem methodischen, schrittweisen „Denkmodus“ für komplexe Aufgaben wie mathematische Argumentation und Programmierung und einem schnellen „Nicht-Denkmodus“ für allgemeine Unterhaltungen wechseln. Das große Kontextfenster macht es für Anwendungsfälle geeignet, die tiefes Reasoning und das Verstehen von Langform-Inhalten erfordern.
Zur Modellkarte „Qwen3-235B-A22B-Instruct-2507“
Hinweise
Führen Sie die folgenden Schritte aus, um Qwen-Modelle mit Vertex AI zu verwenden. Die Vertex AI API (aiplatform.googleapis.com) muss aktiviert sein, um Vertex AI verwenden zu können. Wenn Sie bereits ein Projekt mit aktivierter Vertex AI API haben, können Sie dieses Projekt verwenden, anstatt ein neues Projekt zu erstellen.
-
In the Google Cloud console, on the project selector page, select or create a Google Cloud project.
-
Verify that billing is enabled for your Google Cloud project.
-
Enable the Vertex AI API.
- Rufen Sie eine der folgenden Model Garden-Modellkarten auf und klicken Sie auf Aktivieren.