Comparar comandos

Com o recurso "Comparar", você pode conferir como um comando, modelo ou configuração de parâmetro diferente muda a saída do modelo. Você pode ver cada um dos comandos e as respostas lado a lado para comparar e analisar das seguintes maneiras:

  • Com um novo comando.
  • Com outro comando salvo.
  • Com informações empíricas.

Antes de começar

Para acessar o recurso de comparação, siga estas etapas:

  1. No console Google Cloud , acesse a página Criar solicitação.

    Acessar "Criar comando"

  2. Selecione Comparar. A página Comparar é exibida.

Criar um comando no recurso Comparar

Na página Comparar, você pode criar um comando antes de selecionar outro para comparar os resultados.

Para criar um comando, siga estas etapas:

  1. No campo Novo comando, digite seu comando.

  2. Clique em Enviar comandos. A resposta do modelo aparece abaixo do texto do comando que você inseriu.

  3. Clique em Salvar como novo. Uma caixa de diálogo Salvar solicitação aparece.

  4. Digite o nome do novo comando no campo Nome do comando.

  5. Selecione sua região no campo Região ou deixe como a região padrão.

  6. Se uma chave de criptografia gerenciada pelo cliente (CMEK) for aplicável, faça o seguinte:

    1. Marque a caixa de seleção Chave de criptografia gerenciada pelo cliente (CMEK).
    2. Selecione uma chave no campo Selecionar uma chave do Cloud KMS.
  7. Clique em Salvar para salvar o comando na lista de comandos a serem usados na página Comparar comando salvo.

  8. Clique em Enviar comandos para comparar os comandos e as respostas.

Você pode atualizar seus comandos e salvar as versões atualizadas como novos comandos.

Comparar com um novo comando

Para comparar seu comando salvo com um novo, siga estas etapas:

  1. Clique em Comparar novo comando. Um painel Comparar vai aparecer.
  2. Opcional: clique em Trocar modelo para usar um modelo diferente do padrão.
  3. Opcional: expanda Saídas.
  4. Outputs:
    1. Opcional: se você quiser que o modelo gere uma saída em um formato específico, como JSON, clique na chave Saída estruturada. Depois de selecionar Saída estruturada, as opções de embasamento são desativadas porque não são compatíveis com a saída estruturada.
    2. Opcional: mude o Orçamento de pensamento para uma das seguintes opções:
      • Automático: o modelo só pensa quando precisa. O modelo ajusta o quanto ele pensa ou analisa uma situação com base no que é necessário no momento.
      • Manual: você pode ajustar os tokens do orçamento de pensamento.
      • Desativado: nenhum pensamento ou orçamento é usado.
  1. Opcional: expanda Ferramentas.
  2. Ferramentas:
    1. Selecione uma das seguintes opções:
      • Embasamento: Google: embasamento com a Pesquisa Google ou o Google Maps.
      • Embasamento: seus dados: embasamento com o mecanismo RAG da Vertex AI, a Vertex AI para Pesquisa ou o Elasticsearch.
        1. Se você selecionar Fundamentação: seus dados, escolha a fonte de dados que quer usar.
  1. Opcional: expanda Avançado:
  2. Avançado:
    1. Selecione Região.
    2. Selecione Configurações do filtro de segurança. Uma caixa de diálogo será exibida. Mantenha a opção padrão Desativado ou especifique Bloquear poucos, Bloquear alguns ou Bloquear a maioria para cada uma das seguintes opções:
      • Discurso de ódio: comentários negativos ou nocivos direcionados à identidade ou a atributos protegidos.
      • Conteúdo perigoso: promove ou permite o acesso a produtos, serviços e atividades prejudiciais.
      • Conteúdo sexualmente explícito: contém referências a atos sexuais ou outro conteúdo obsceno.
      • Conteúdo de assédio: comentários maliciosos, intimidadores, abusivos ou de bullying direcionados a outra pessoa.
    3. Clique em Salvar para salvar as configurações e fechar a caixa de diálogo.
    4. Selecione a temperatura no campo Temperatura. A temperatura controla a aleatoriedade na seleção do token. Uma temperatura mais baixa é boa quando você espera uma resposta verdadeira ou correta. Uma temperatura mais alta pode gerar resultados diversos ou inesperados.
    5. Selecione o limite de token de saída no campo Limite de token de saída. O limite de tokens de saída determina a quantidade máxima de texto gerado por um comando. Um token tem cerca de quatro caracteres.
    6. Selecione o número máximo de respostas no campo Máximo de respostas. Se o número máximo de respostas do modelo geradas por comando. As respostas ainda podem ser bloqueadas devido a filtros de segurança ou outras políticas.
    7. Selecione um valor no campo Top-P. O Top-p muda a forma como o modelo seleciona tokens para saída.
    8. Clique no botão de alternância no campo Streaming de respostas do modelo. Se selecionada, as respostas serão impressas à medida que forem geradas.
    9. Insira uma sequência de paradas no campo Adicionar sequência de paradas. Pressione Enter depois de cada sequência.
  1. Clique em Salvar para salvar as mudanças nas suas configurações.
  2. Clique em Aplicar.
  3. Clique em Enviar comandos para comparar os comandos e as respostas.

Para mais informações sobre os limites de tokens de cada modelo, consulte Controlar o orçamento de pensamento.

Comparar com outro comando salvo

Para comparar seu comando salvo com outro, siga estas etapas:

  1. Clique em Comparar comando salvo. O painel Comando atual aparece.
  2. Escolha até dois comandos atuais para comparar.

    1. Selecione um Nome do comando. Se você tiver muitos comandos na lista, clique no campo Filtro e selecione a propriedade que você quer usar para filtrar. Digite um valor e pressione Enter.
    2. Clique em Aplicar. A página Comparar mostra o comando que você selecionou ao lado de outros que você criou ou selecionou para comparação.
  3. Clique em Enviar comandos para comparar os comandos e as respostas.

Comparar com informações empíricas

As informações empíricas são sua resposta preferencial ao comando. Todas as outras respostas do modelo são avaliadas com base na resposta de informações empíricas.

Para comparar seu comando salvo com uma verdade fundamental, siga estas etapas:

  1. Clique em Informações empíricas. O painel Informações empíricas aparece.
  2. Insira as informações empíricas para gerar outras métricas de avaliação.
  3. Clique em Salvar para salvar a verdade fundamental.
  4. Clique em Enviar comandos para comparar os comandos e as respostas.

As métricas de avaliação geradas quando você compara um comando com uma informação empírica não são afetadas pela região selecionada.

A seguir