Testen: Modellfunktionen mit Demo-Playgrounds in Model Garden testen

Testen: Modellfunktionen mit Demo-Playgrounds in Model Garden testen

In Model Garden werden öffentliche Demo-Sandboxes für unterstützte Modelle gehostet. Die Playgrounds werden von vorab bereitgestellten Vertex AI-Endpunkten für Onlinevorhersagen unterstützt.

Wenn Sie die Modellkarte für ein unterstütztes Modell öffnen, ist ein Bereich Ausprobieren eingebettet. Sie können die Funktionen des Modells schnell testen, indem Sie im Bereich Ausprobieren einen Textprompt senden. Im Bereich Ausprobieren können Sie auch einige der gängigsten Parameter wie Temperatur und Anzahl der Ausgabetokens festlegen.

Unterstützte Modelle

Für die folgenden Modelle sind Demo-Playgrounds verfügbar.

Anbieter	Modelle
Google	Gemma 2 2B-it (anleitungsabgestimmt) Gemma 2 9B-it (anleitungsabgestimmt) Gemma 2 27B-it (anleitungsabgestimmt) Gemma 2B Gemma 2B-it (anleitungsabgestimmt) Gemma 7B Gemma 7B it (anleitungsoptimiert)
Meta	Llama 3 8B – Anleitung Llama 3 70B – Anleitung Llama 2 7B Llama 2 7B Chat Llama 2 13B Chat Llama 2 70B-Chat (Int8) Code Llama 7B Python
IIT	Falcon 7B
Mistral AI	Mixtral 8x7B

Hinweise

Für diese Anleitung müssen Sie ein Google Cloud-Projekt einrichten und die Vertex AI API aktivieren.

1. Sign in to your Google Cloud account. If you're new to Google Cloud, create an account to evaluate how our products perform in real-world scenarios. New customers also get $300 in free credits to run, test, and deploy workloads.

2. In the Google Cloud console, on the project selector page, select or create a Google Cloud project.

   Note: If you don't plan to keep the resources that you create in this procedure, create a project instead of selecting an existing project. After you finish these steps, you can delete the project, removing all resources associated with the project.

   Go to project selector

3. Make sure that billing is enabled for your Google Cloud project.

4. Enable the Vertex AI API.

   Enable the API

5. In the Google Cloud console, on the project selector page, select or create a Google Cloud project.

   Note: If you don't plan to keep the resources that you create in this procedure, create a project instead of selecting an existing project. After you finish these steps, you can delete the project, removing all resources associated with the project.

   Go to project selector

6. Make sure that billing is enabled for your Google Cloud project.

7. Enable the Vertex AI API.

   Enable the API

Gemma 2 ausprobieren

In dieser Kurzanleitung testen Sie das Modell Gemma-2b-it. -it steht für instruction-tuned (an Anweisungen angepasst).

1. Rufen Sie in der Google Cloud Console die Modellkarte Gemma 2 auf.

   Gemma 2 aufrufen

2. Im Bereich Ausprobieren:

   1. Akzeptieren Sie die Standardeinstellung für Region oder wählen Sie Ihre Region aus.
   2. Wählen Sie unter Endpunkt die Option Demo-Testfeld (kostenlos)2b-it aus.
   3. Geben Sie im Feld Prompt den Wert Why is the sky blue? ein.

   4. Maximieren Sie den Bereich Erweiterte Optionen und sehen Sie sich die Standardparameter an.

      

3. Klicken Sie auf Senden. Die Ausgabe wird unter der Schaltfläche „Senden“ angezeigt.

Bereinigen

Mit den folgenden Schritten vermeiden Sie, dass Ihrem Google Cloud-Konto die in dieser Anleitung verwendeten Ressourcen in Rechnung gestellt werden:

Projekt löschen

Am einfachsten vermeiden Sie weitere Kosten durch Löschen des für die Anleitung erstellten Projekts.

So löschen Sie das Projekt:

Achtung: Das Löschen von Projekten hat folgende Auswirkungen:

• Alle Inhalte des Projekts werden gelöscht. Wenn Sie für die Aufgaben in diesem Dokument ein bereits bestehendes Projekt verwendet haben und dieses löschen, werden auch alle anderen im Rahmen des Projekts erstellten Daten gelöscht.
• Benutzerdefinierte Projekt-IDs gehen verloren. Beim Erstellen dieses Projekts haben Sie möglicherweise eine benutzerdefinierte Projekt-ID erstellt, die Sie weiterhin verwenden möchten. Damit die URLs, die die Projekt-ID nutzen, z. B. eine appspot.com-URL, erhalten bleiben, sollten Sie ausgewählte Ressourcen innerhalb des Projekts löschen, statt das gesamte Projekt.

Wenn Sie mehrere Architekturen, Anleitungen und Kurzanleitungen durcharbeiten möchten, können Sie die Überschreitung von Projektkontingenten verhindern, indem Sie Projekte wiederverwenden.

1. In the Google Cloud console, go to the Manage resources page.

   Go to Manage resources

2. In the project list, select the project that you want to delete, and then click Delete.
3. In the dialog, type the project ID, and then click Shut down to delete the project.

Nächste Schritte

Übersicht über Model Garden