Criar e otimizar comandos do Gemini no Vertex AI Studio

Use o Vertex AI Studio para projetar, testar e personalizar os comandos enviados aos modelos de linguagem grandes (LLM) Gemini e PaLM 2 do Google. Você pode conferir a API Gemini na Vertex AI e o código da API Vertex AI usado para gerar as respostas.

No Vertex AI Studio, é possível concluir o seguinte:

  • Testar modelos usando amostras de prompts fornecidas
  • Criar e gerenciar seus comandos
  • Comparar a saída do comando por modelo
  • Avalie seus comandos com base em métricas de qualidade selecionadas
  • Ajustar modelos para receber respostas personalizadas
  • Basear a saída do modelo na Vertex AI para Pesquisa ou na Pesquisa Google
  • Receber o código da API Vertex AI para implementar seu trabalho

Antes de começar a fazer perguntas no Vertex AI Studio

Quando você usa o Vertex AI Studio com uma conta de teste gratuito do Google Cloud ou sem fazer login no Google Cloud, alguns recursos não estão disponíveis, como mostrado na tabela a seguir. Para testar o Vertex AI Studio, aceite a janela de Termos de Serviço do Vertex AI Studio no console do Google Cloud.

Usar sem uma conta do Google Cloud Usar com uma conta de teste gratuito do Google Cloud Usar com uma conta do Google Cloud
É necessário fazer login Não Sim Sim
Consultas por minuto (QPM) 2 QPM para todos os modelos multimodais Conferir limites de cota Conferir limites de cota
Créditos oferecidos US$ 0 Até US$ 300 por 90 dias US$ 0
Galeria de comandos Não Sim Sim
Designer de comandos Sim Sim Sim
Salvar comandos Não Sim Sim
Histórico de solicitações Não Sim Sim
Parâmetros avançados Não Não Sim
Ajuste Não Não Sim
Uso da API Não Sim Sim
Faturamento necessário Não Não Sim
Como começar Acesse o Vertex AI Studio Inscreva-se para um teste gratuito Teste o Vertex AI Studio no seu console

Crie uma conta do Google Cloud para começar

Para testar este guia de início rápido, você precisa criar uma conta do Google Cloud. Com esta conta, você receberá US$ 300 em crédito, além de uso gratuito de mais de 20 produtos, sem cobranças no seu crédito de US$ 300.

Comece a usar gratuitamente

Para mais informações sobre como configurar o Google Cloud depois que sua conta for criada, consulte Configurar um projeto e um ambiente de desenvolvimento.

  1. Acesse a página Galeria de comandos na seção "Vertex AI" no console do Google Cloud.
    Acessar a galeria de comandos
  2. No menu suspenso Tarefas, selecione Resumo.

  3. Abra o card Resumo da transcrição.

    O modelo, os parâmetros, os exemplos e o comando de teste são preenchidos previamente.

  4. Para gerar um resumo da solicitação, na seção Teste, clique em Enviar.

    A resposta é exibida na seção Saída.

  5. Opcional: para conferir resultados diferentes, selecione um modelo diferente na lista Modelo ou mude os parâmetros e clique em Enviar.

  6. Opcional: para conferir o código da API Vertex AI necessário para gerar um resumo da transcrição, clique em Get code.

Dominar o design e o teste de comandos no Vertex AI Studio

É possível criar e testar seus próprios comandos de tarefas que são relevantes para seu caso de uso comercial e gerar respostas. Ao adicionar entradas e saídas, o LLM é capaz de aprender no contexto dos exemplos de respostas.

É possível criar uma solicitação com instruções precisas e pedir ao LLM para preencher uma frase ou responder a perguntas únicas.

  1. Acesse a página Vertex AI Studio na seção "Vertex AI" no console do Google Cloud.
    Acessar o Vertex AI Studio

  2. Na seção Generate with Gemini, clique em Open Freeform.

    Uma solicitação sem título é aberta.

  3. Na caixa de solicitação, adicione uma descrição clara e concisa da tarefa que você quer que o modelo execute, como Suggest a name for a flower shop that sells bouquets of dried flowers.

  4. Clique em Enviar.

    Uma resposta aparece na caixa de resposta.

  5. Opcional: para conferir resultados diferentes, ajuste o comando, o modelo ou os parâmetros e clique em Enviar.

  6. Opcional: para conferir o código da API Vertex AI necessário para gerar uma resposta semelhante, clique em Get code.

Entender as categorias de comandos do Vertex AI Studio

No Vertex AI Studio, é possível testar e personalizar comandos para diferentes modelos de IA generativa.

As amostras de comandos estão disponíveis nas seções Freeform e Chat do Vertex AI Studio e contêm uma variedade de comandos de amostra pré-criados para ajudar a demonstrar os recursos do modelo. Os comandos de amostra são categorizados pelo tipo de tarefa, como resumo, classificação e extração. Cada comando é pré-configurado com um modelo e valores de parâmetro especificados. Dessa maneira, basta abrir o comando de amostra e clicar em Enviar para que o modelo gere uma resposta.

Personalizar e melhorar os comandos do Gemini

O design de comando é o processo de criação de comandos que extraem a resposta desejada de um modelo de linguagem. Ao elaborar prompts com cuidado, é possível incentivar o modelo a gerar um bom resultado para seu caso de uso. O design de comandos pode ser uma maneira eficiente de testar a saída do modelo.

O Vertex AI Studio permite que sua equipe crie, salve e refine comandos colaborativamente. Ao criar um novo comando, é possível inserir o texto dele, escolher o modelo ideal, ajustar os parâmetros e testar para receber feedback imediato. Quando um comando é finalizado, é possível salvá-lo no seu projeto compartilhado no Vertex AI Studio.

Para começar a criar comandos, consulte Introdução à criação de comandos.

Comparar a saída do modelo do Gemini usando comandos diferentes

No Vertex AI Studio, é possível comparar os resultados de comandos para conferir qual par de modelo e configurações funciona melhor para seu caso de uso.

Na guia Freeform, confira seus comandos e selecione Comparar ao lado dos prompts que você quer comparar. É possível comparar até três comandos lado a lado.

Gerenciar e organizar as propostas do Gemini usando as páginas "Provas salvas"

Se você tiver muitos comandos, é necessário ter um local centralizado para gerenciá-los. É possível conferir todos os comandos por tipo na página Comandos salvos. É possível controlar a versão dos seus comandos, restaurar versões anteriores, excluir, exportar e gerenciar a nomenclatura dos comandos. Também é possível adicionar notas a comandos para manter registros e colaborar de maneira centralizada com sua equipe de comandos.

Acessar as solicitações salvas

Fundamentar seus comandos de IA com dados verificáveis no Vertex AI Studio

Na IA generativa, embasamento é a capacidade de conectar a saída do modelo de linguagem a fontes de informações verificáveis. Nas páginas Formato livre e Chat do Vertex AI Studio, é possível escolher a saída do modelo para a Pesquisa da Vertex AI ou a Pesquisa Google. Para saber mais sobre o embasamento, consulte Visão geral do embasamento. Para saber mais sobre como basear a saída do modelo na Pesquisa Google, consulte Como basear com a Pesquisa Google.

Descobrir modelos de IA generativa poderosos no Model Garden

O Model Garden é uma plataforma que ajuda a descobrir, testar, personalizar e implantar a propriedade do Google e selecionar modelos e recursos de OSS. Para conferir os modelos de IA generativa e as APIs disponíveis na Vertex AI, acesse "Grupo de modelos" no console do Google Cloud.

Acessar o Model Garden

Para saber mais sobre o Model Garden, incluindo modelos e recursos disponíveis, consulte Explorar modelos de IA no Model Garden.

Ajustar um modelo do Gemini para melhorar a performance

Embora o design do comando seja ótimo para a experimentação rápida, se os dados de treinamento estiverem disponíveis, uma qualidade maior poderá ser alcançada ajustando o próprio modelo. O ajuste de um modelo permite personalizar a resposta do modelo com base em exemplos da tarefa que você quer que o modelo execute.

Para saber como ajustar um modelo de fundação, consulte Ajustar modelos de fundação.

Use o Vertex AI Studio para projetar, testar e personalizar os comandos enviados aos modelos de linguagem grandes (LLM) Gemini e PaLM 2 do Google. Depois que o LLM processa o comando, ele envia a resposta. Para saber mais sobre o Vertex AI Studio, consulte Testar modelos no Vertex AI Studio.

Descobrir o que vem por aí com o Vertex AI Studio