Teste: teste os recursos do modelo usando playgrounds de demonstração no Model Garden

Teste: teste os recursos do modelo usando playgrounds de demonstração no Model Garden

O Model Garden hospeda playgrounds de demonstração públicos para modelos com suporte. Os playgrounds são alimentados por endpoints de previsão on-line da Vertex AI pré-implantados.

Quando você abre o card de um modelo compatível, um painel Testar é incorporado ao card. É possível testar rapidamente os recursos do modelo enviando um comando de texto no painel Testar. O painel Testar também permite definir alguns dos parâmetros mais comuns, como temperatura e número de tokens de saída.

Modelos compatíveis

Os modelos a seguir têm playgrounds de demonstração disponíveis.

Provedor	Modelos
Google	Gemma 2 2B it (instruction tuned) Gemma 2 9B it (instruction tuned) Gemma 2 27B it (instruções ajustadas) Gemma 2B Gemma 2B it (ajuste de instruções) Gemma 7B Gemma 7B-it (ajuste de instruções)
Meta	Llama 3 8B Instruct Llama 3 70B Instruct Llama 2 7B Llama 2 7B Chat Llama 2 13B Chat Llama 2 70B Chat (Int8) Code Llama 7B Python
IIT	Falcon 7B
Mistral AI	Mixtral 8x7B

Antes de começar

Neste tutorial, você precisa configurar um Google Cloud projeto e ativar a API Vertex AI.

1. Sign in to your Google Cloud account. If you're new to Google Cloud, create an account to evaluate how our products perform in real-world scenarios. New customers also get $300 in free credits to run, test, and deploy workloads.

2. In the Google Cloud console, on the project selector page, select or create a Google Cloud project.

   Note: If you don't plan to keep the resources that you create in this procedure, create a project instead of selecting an existing project. After you finish these steps, you can delete the project, removing all resources associated with the project.

   Go to project selector

3. Make sure that billing is enabled for your Google Cloud project.

4. Enable the Vertex AI API.

   Enable the API

5. In the Google Cloud console, on the project selector page, select or create a Google Cloud project.

   Note: If you don't plan to keep the resources that you create in this procedure, create a project instead of selecting an existing project. After you finish these steps, you can delete the project, removing all resources associated with the project.

   Go to project selector

6. Make sure that billing is enabled for your Google Cloud project.

7. Enable the Vertex AI API.

   Enable the API

Testar o Gemma 2

Neste guia de início rápido, você vai testar o modelo Gemma-2b-it. -it significa ajuste de instrução.

1. No console do Google Cloud, acesse o card de modelo Gemma 2.

   Acessar o Gemma 2

2. No painel Testar:

   1. Em Região, aceite o padrão ou escolha sua região.
   2. Em Endpoint, selecione Demo playground (Free)2b-it.
   3. Na caixa Prompt, digite Why is the sky blue?.

   4. Abra a seção Opções avançadas e confira os parâmetros padrão.

      

3. Clique em Enviar. A saída aparece abaixo do botão "Enviar".

Limpar

Para evitar cobranças na conta do Google Cloud pelos recursos usados nesta página, siga estas etapas.

Excluir o projeto

O jeito mais fácil de evitar cobranças é excluindo o projeto que você criou para o tutorial.

Para excluir o projeto:

Cuidado: excluir um projeto tem os seguintes efeitos:

• Tudo no projeto é excluído. Se você tiver usado um projeto existente para as tarefas neste documento, a exclusão dele incluirá a exclusão de quaisquer outros trabalhos feitos no projeto.
• Os IDs do projeto personalizados são perdidos. Ao criar o projeto, você pode ter criado um código do projeto personalizado para ser usado no futuro. Para preservar os URLs que usam o ID do projeto, como um URL appspot.com, exclua recursos específicos do projeto, em vez de excluir o projeto inteiro.

Se você planeja passar por várias arquiteturas, tutoriais ou guias de início rápido, a reutilização de projetos pode evitar que você exceda os limites da cota do projeto.

1. In the Google Cloud console, go to the Manage resources page.

   Go to Manage resources

2. In the project list, select the project that you want to delete, and then click Delete.
3. In the dialog, type the project ID, and then click Shut down to delete the project.

A seguir

Confira uma visão geral do Model Garden.