Configurar o ambiente do Cloud TPU

Antes de poder usar os recursos do Cloud TPU para treinar ou executar inferência em modelos, siga estas etapas de configuração:

Configurar seu projeto do Google Cloud

Você precisa ter uma conta e um projeto do Google Cloud para usar o Cloud TPU.

  1. No console do Google Cloud, faça login na sua Conta do Google ou criar uma nova conta.

  2. Instale a CLI do Google Cloud. A CLI do Google Cloud é uma interface para acessar e gerenciar recursos e serviços do Google Cloud.

  3. Selecione ou crie um projeto do Google Cloud:

    No console do Google Cloud, selecione ou crie um projeto do Cloud no seletor de projetos.

    No Cloud Shell, defina o ID do projeto usando a CLI gcloud. O ID do projeto é o nome do projeto mostrado no console do Google Cloud.

    $ gcloud config set project PROJECT-ID

  4. Verifique se a cobrança está ativada para o seu projeto do Google Cloud.

    A configuração do faturamento é obrigatória para todo o uso do Google Cloud. Você só vai receber cobranças depois de começar a usar os recursos do Google Cloud. Para mais informações, consulte a documentação do Cloud Billing.

    O faturamento para todas as versões do Cloud TPU segue os preços regionais padrão mostrado na página de preços do Cloud TPU.

Configurar o ambiente para usar o Cloud TPU

Antes de solicitar um Cloud TPU, é preciso ativar a API Cloud TPU e verifique se você tem permissões para gerenciar o acesso no projeto e criar um Cloud TPU. Também é recomendável criar um serviço gerenciado pelo usuário para anexar à TPU.

  1. Ative a API Cloud TPU no console do Google Cloud ou usando o CLI gcloud no Cloud Shell:

    gcloud

    $ gcloud services enable tpu.googleapis.com

    Console

    1. No console do Google Cloud, acesse a página da API Cloud TPU.

    Acessar a página da API Cloud TPU

    1. Clique em Ativar.

  2. Verifique se você tem os seguintes papéis em seu projeto:

    Siga as instruções Visualizar o acesso atual para ver que tem acesso ao projeto, pasta ou organização. Para visualizar o seu próprio acesso, na coluna Principal, localize a linha que tem seu endereço de e-mail. Se seu endereço de e-mail não estiver nessa coluna, você não tem papéis. Na coluna Papel da linha com seu endereço de e-mail, verifique se o lista de papéis inclui os papéis necessários.

    Se você não tiver um papel necessário, conceder o papel ou peça para um administrador fazer isso.

  3. Crie um agente de serviço do Cloud TPU:

    Os agentes de serviço, um tipo de identidade de serviço, são Identidades de serviço mantidas pelo Google que são usadas pelo serviço do Cloud TPU para executar operações no seu projeto do Google Cloud. Por exemplo, o serviço é usado para criar e gerenciar recursos da Cloud TPU.

      $ gcloud beta services identity create --service tpu.googleapis.com --project $PROJECT_ID

  4. Crie uma conta de serviço da TPU:

    As contas de serviço funcionam como credenciais para as VMs da TPU. Papéis anexados a um que a conta de serviço conceda acesso aos recursos do Google Cloud. Recomendamos o uso de um conta de serviço gerenciado pelo usuário, concedendo apenas as permissões exigidas pelos VM da TPU. Ao usar uma conta serviço gerenciado pelo usuário, você precisa especificá-la ao você estiver criando uma VM de TPU usando a sinalização --service-account.

    1. Siga as instruções em Criar contas de serviço. para criar uma conta de serviço gerenciado pelo usuário.

    2. Siga as instruções em Gerenciar o acesso a projetos, pastas e organizações para conceder ao serviço. o acesso da conta aos serviços do Google Cloud que a TPU acessa. O os papéis a seguir são recomendados para que sua TPU acesse os dados mais usados serviços do Google Cloud.

    .

Preparação para criar um Cloud TPU

Antes de criar um Cloud TPU, é preciso solicitar cota. Considere também usando recursos na fila, bem como os parâmetros que você quer usar para configurar a TPU.

  1. Cota de solicitação:

    Para criar um Cloud TPU, seu projeto do Google Cloud precisa ter cota para a versão e o tamanho da TPU que você quer criar e a zona quiser criá-la. Por exemplo, se você quiser criar uma TPU v4-8 em us-central2-b, solicite uma cota de 8 núcleos de TPU v4 em us-central2-b. Para mais informações sobre zonas em que o Cloud TPU está disponível, consulte Regiões e zonas de TPU.

    A cota é alocada de maneira diferente, dependendo da versão da TPU. Tipos diferentes de cota têm diferentes expectativas de disponibilidade. Para mais informações sobre alocação de cotas, tipos de cotas e como solicitar cotas, consulte Cotas.

  2. Determine se você quer usar recursos na fila.

    Criar um Cloud TPU como um recurso na fila é uma prática recomendada. Na fila os recursos permitem que você receba a capacidade quando ela estiver disponível. Você pode especificar horários de início e término opcionais em que a solicitação deve ser preenchida.

    Há diferentes comandos da CLI gcloud para trabalhar com filas do Google Cloud. Para mais informações, consulte o Guia do usuário de recursos em fila.

  3. Determine os parâmetros de criação do Cloud TPU:

    • Zona: defina a flag --zone como a zona em que você quer criar uma TPU. Você precisa ter uma cota alocada nesta zona. Para mais informações, consulte Regiões e zonas de TPU.

    • Configuração de TPU: se não for preciso especificar uma topologia personalizada. você estiver usando TPU v2 ou v3, defina a sinalização --accelerator-type como vVERSION-TENSORCORES. Substituir VERSION pelo número da versão da TPU que você quer usar. Substituir TENSORCORES pelo número de TensorCores que você quer usar.

      Para personalizar a topologia física da TPU, use o Sinalizações --version e --topology. Defina a flag --version como a TPU que você quer usar. Defina a flag --topology como a topologia que você quer usar.

      Para mais informações sobre configurações de TPU, incluindo opções configurações e variantes de topologia, consulte as versões de TPU.

    • Versão do software: se você estiver solicitando um recurso na fila, defina o --runtime-version para o nome da versão do software que você quer usar. Caso contrário, use a sinalização --version. Versões de software da TPU estão disponíveis para frameworks do TensorFlow, do PyTorch e do JAX. Para mais informações sobre as versões de software compatíveis, consulte Versões de software da VM da TPU.

    • Conta de serviço: defina --service-account como o endereço de e-mail de um serviço. conta de serviço, caso tenha criado uma, para anexar a conta de serviço à TPU. Se estiver vazia, a conta de serviço padrão do Compute Engine será usado.

    • Tipo de cota: adicione a sinalização que corresponde ao tipo de cota que você quer. usar:

      Tipo da cota Bandeira
      Reservado --reserved
      VMs spot --spot
      Preemptiva usando recursos em fila --best-effort
      A preemptiva não usa recursos na fila --preemptible
      Sob demanda Nenhuma sinalização adicional necessária

    • Configuração avançada: é possível adicionar mais sinalizações à solicitação para configurar sua TPU. Consulte a documentação do gcloud compute tpus tpu-vm create. e as seguintes seções em Gerenciar TPUs Para mais informações:

Para exemplos de como criar um Cloud TPU, consulte Primeiros passos.

A seguir

  1. Aprenda a criar e gerenciar recursos de VM e TPU
  2. Execute um guia de início rápido do Cloud TPU.