Como usar o máximo de instâncias

É possível controlar o comportamento de escalonamento da função definindo um número máximo de instâncias do Cloud Functions.

O Cloud Functions escalona criando novas instâncias da função. Cada uma dessas instâncias pode processar apenas uma solicitação por vez. Portanto, grandes picos no volume de solicitações podem resultar na criação de várias instâncias.

O escalonamento automático é benéfico na maioria das vezes, mas em alguns casos talvez você queira limitar o número total de instâncias que podem existir em um determinado momento. Por exemplo, a função pode interagir com um banco de dados que processa apenas um determinado número de conexões abertas simultâneas.

Como definir e limpar limites máximos de instâncias

É possível definir um número máximo de instâncias para uma função durante a implantação. Cada função tem a própria configuração de instâncias máximas. e elas são dimensionadas independentemente umas das outras.

Como definir limites máximos de instâncias

É possível definir um limite máximo de instâncias usando a ferramenta de linha de comando gcloud ou o Console do Google Cloud.

Console

Para definir um limite máximo de instâncias para uma nova função:

  1. Acesse a página Visão geral do Cloud Functions.

  2. Clique em Criar função.

  3. Preencha os campos obrigatórios da função.

  4. Clique em Configurações de ambiente de execução, criação e conexão.

  5. No campo Máximo de instâncias da seção Escalonamento automático, insira o valor desejado. O padrão sugerido é 3000.

gcloud

Para definir um limite máximo de instâncias, execute o comando deploy com a sinalização --max-instances:

gcloud functions deploy FUNCTION_NAME --max-instances MAX_INSTANCE_LIMIT

Substitua:

  • FUNCTION_NAME: o nome da função.

  • MAX_INSTANCE_LIMIT: o número a ser definido como o limite máximo de instâncias. Por exemplo, 3000.

O limite máximo de instâncias está definido.

Como limpar limites máximos de instâncias

É possível limpar um limite máximo de instâncias usando a ferramenta de linha de comando gcloud ou o Console do Google Cloud.

Console

Para limpar um limite máximo de instâncias:

  1. Acesse a página Visão geral do Cloud Functions.

  2. Clique em uma função existente para acessar a página de detalhes.

  3. Clique em Editar.

  4. Clique em Configurações de ambiente de execução, criação e conexão.

  5. No campo Máximo de instâncias da seção Escalonamento automático, insira 0 ou deixe o campo em branco.

gcloud

Para limpar um limite máximo de instâncias, execute o comando deploy com a sinalização --clear-max-instances:

gcloud functions deploy FUNCTION_NAME --clear-max-instances

O limite máximo de instâncias foi apagado.

Limites e práticas recomendadas

Nesta seção, fornecemos diretrizes para o uso de instâncias máximas.

Proteja-se contra escalonamentos verticais excessivos

Quando nenhum limite de --max-instances é especificado, o Cloud Functions favorece o escalonamento vertical para atender à demanda em vez de limitar a capacidade. Isso significa que o número de instâncias simultâneas que a função pode ter é efetivamente ilimitado, a menos que você tenha configurado um limite.

Recomendamos atribuir um limite de --max-instances a todas as funções que enviam solicitações a serviços downstream que não podem ser escalonados ou a serviços limitados pela capacidade. Um limite máximo de instâncias melhora a estabilidade geral do sistema e ajuda a proteger contra níveis de solicitação anormalmente altos.

Solicitar tratamento quando todas as instâncias estiverem ocupadas

Em circunstâncias normais, a função é escalonada criando novas instâncias para lidar com a carga de tráfego de entrada. No entanto, quando um limite máximo de instâncias estiver definido, será possível encontrar um cenário em que haja instâncias insuficientes para atender a carga de tráfego de entrada.

Nesse cenário, o Cloud Functions tenta exibir a uma nova solicitação de entrada por até 30 segundos:

  • Se uma instância concluir o processamento da solicitação durante esse período, ela poderá começar a processar a nova solicitação de entrada.
  • Se nenhuma instância se tornar disponível, a solicitação falhará.

Limites máximos de instâncias que excedem a capacidade de escalonamento do Cloud Functions

Ao especificar um limite máximo de instâncias, você está especificando um limite superior. Definir um limite alto não significa que sua função será escalonada até o número especificado de instâncias. Significa apenas que o número de instâncias que coexistem a qualquer momento não deve exceder o limite.

Além disso, definir um limite máximo de instâncias pode afetar as estratégias de escalonamento que o Cloud Functions usa para atender à demanda de tráfego. Em geral, o Cloud Functions priorizará o limite especificado em vez de escalonar verticalmente e potencialmente exceder o limite.

Como lidar com picos de tráfego

Em alguns casos, como surtos de tráfego acelerado, o Cloud Functions pode criar, por um curto período, mais instâncias do que o limite máximo especificado de instâncias. Se a função não aceitar esse comportamento temporário, convém incluir uma margem de segurança e definir um valor de instâncias máximas mais baixo do que a função pode tolerar.

Implantações

Quando você implanta uma nova versão da função, o Cloud Functions migra o tráfego da versão antiga para a nova. Como os limites máximos de instâncias são definidos para cada versão da função de forma independente, é possível exceder temporariamente o limite especificado durante o período após a implantação.

Por exemplo, uma função pode ter um limite máximo de 5 instâncias. Em circunstâncias normais, a função é escalonada até 5 instâncias para lidar com as requisições. Quando uma nova versão da função é implantada, a nova versão possui seu próprio limite máximo de 5 instâncias.

As solicitações que já estão sendo gerenciadas pela versão anterior da função não são interrompidas quando uma nova versão da função é implantada. Em vez disso, essas solicitações continuarão a progredir. Novas solicitações de entrada serão tratadas pela versão recém-implantada da função.

Assim, a função no exemplo anterior pode ter até 10 instâncias no total (5 para cada versão da função) durante o período após a implantação da nova versão. A quantidade de tempo necessária para que as instâncias da função anterior terminem depende do tempo necessário para que essas instâncias concluam o processamento de qualquer solicitação ativa. Esse é um fator adicional a ser levado em conta ao selecionar um limite de instâncias máximas apropriado.

Instâncias ociosas e como minimizar inicializações a frio

Para minimizar o impacto de inicializações a frio, o Cloud Functions geralmente mantém uma reserva de instâncias ociosas da função. Essas instâncias estão prontas para lidar com solicitações em caso de um pico repentino de tráfego.

Por exemplo, quando uma instância tiver concluído o processamento de uma solicitação, a instância talvez permaneça ociosa por um período, caso precise processar uma solicitação de entrada. Uma instância ociosa mantêm os recursos, como conexões de banco de dados abertas, caso precise lidar com outra solicitação. Essas instâncias ociosas contam para o limite geral de instâncias máximas de uma determinada versão da função. Não há cobrança por essas instâncias ociosas.

Como limpar limites máximos de instâncias

Definir o máximo de instâncias como 0 resulta na limpeza dos limites máximos de instâncias existentes. Definir um valor 0 não pausa a função.