Prova: testa le funzionalità del modello utilizzando gli spazi di prova demo in Model Garden

Prova: testa le funzionalità del modello utilizzando gli spazi di prova demo in Model Garden

Model Garden ospita aree di prova demo pubbliche per i modelli supportati. I playground si basano su endpoint di previsione online di Vertex AI pre-implementati.

Quando apri la scheda di un modello supportato, nella scheda viene incorporato un riquadro Prova. Puoi testare rapidamente le funzionalità del modello inviando un prompt di testo nel riquadro Prova. Il riquadro Prova ti consente anche di impostare alcuni dei parametri più comuni, come la temperatura e il numero di token di output.

Modelli supportati

Per i seguenti modelli sono disponibili spazi di prova demo.

Provider	Modelli
Google	Gemma 2 2B it (istruzione ottimizzata) Gemma 2 9B it (istruzione ottimizzata) Gemma 2 27B it (istruzione ottimizzata) Gemma 2B Gemma 2B it (istruzione ottimizzata) Gemma 7B Gemma 7B it (istruzione ottimizzata)
Meta	Istruzioni per Llama 3 8B Istruzioni Llama 3 70B Llama 2 7B Chat Llama 2 7B Chat di Llama 2 13B Chat Llama 2 70B (Int8) Python di Code Llama 7B
IIT	Falcon 7B
Mistral AI	Mixtral 8x7B

Prima di iniziare

Per questo tutorial devi configurare un progetto Google Cloud e attivare l'API Vertex AI.

1. Sign in to your Google Cloud account. If you're new to Google Cloud, create an account to evaluate how our products perform in real-world scenarios. New customers also get $300 in free credits to run, test, and deploy workloads.

2. In the Google Cloud console, on the project selector page, select or create a Google Cloud project.

   Note: If you don't plan to keep the resources that you create in this procedure, create a project instead of selecting an existing project. After you finish these steps, you can delete the project, removing all resources associated with the project.

   Go to project selector

3. Make sure that billing is enabled for your Google Cloud project.

4. Enable the Vertex AI API.

   Enable the API

5. In the Google Cloud console, on the project selector page, select or create a Google Cloud project.

   Note: If you don't plan to keep the resources that you create in this procedure, create a project instead of selecting an existing project. After you finish these steps, you can delete the project, removing all resources associated with the project.

   Go to project selector

6. Make sure that billing is enabled for your Google Cloud project.

7. Enable the Vertex AI API.

   Enable the API

Prova Gemma 2

In questa guida rapida, provi il modello Gemma-2b-it. Tieni presente che -it sta per instruction-tuned.

1. Nella console Google Cloud, vai alla scheda del modello Gemma 2.

   Passare a Gemma 2

2. Nel riquadro Prova:

   1. Per Regione, accetta il valore predefinito o scegli la tua regione.
   2. Per Endpoint, seleziona Demo playground (Free)2b-it.
   3. Nella casella Prompt, inserisci Why is the sky blue?.

   4. Espandi la sezione Opzioni avanzate e visualizza i parametri predefiniti.

      

3. Fai clic su Invia. L'output viene visualizzato sotto il pulsante Invia.

Esegui la pulizia

Per evitare che al tuo account Google Cloud vengano addebitati costi relativi alle risorse utilizzate in questa pagina, segui questi passaggi.

Elimina il progetto

Il modo più semplice per eliminare la fatturazione è eliminare il progetto che hai creato per il tutorial.

Per eliminare il progetto:

Attenzione: l'eliminazione di un progetto ha i seguenti effetti:

• L'intero contenuto del progetto viene eliminato. Se hai utilizzato un progetto esistente per le attività descritte in questo documento, quando lo elimini elimini anche tutto il lavoro svolto nel progetto.
• Gli ID progetto personalizzati non sono più disponibili. Quando hai creato questo progetto, potresti aver creato un ID progetto personalizzato che vuoi utilizzare in futuro. Per conservare gli URL che utilizzano l'ID progetto, ad esempio un URL appspot.com, elimina le risorse selezionate all'interno del progetto anziché eliminare l'intero progetto.

Se intendi esplorare più architetture, tutorial o guide rapide, il riuso dei progetti può aiutarti a non superare i limiti di quota.

1. In the Google Cloud console, go to the Manage resources page.

   Go to Manage resources

2. In the project list, select the project that you want to delete, and then click Delete.
3. In the dialog, type the project ID, and then click Shut down to delete the project.

Passaggi successivi

Consulta una panoramica di Model Garden.