Ative os tempos de execução predefinidos com GPUs

Ative os tempos de execução predefinidos com GPUs

Pré-visualização

Esta funcionalidade está sujeita aos "Termos das Ofertas de Pré-DG" na secção Termos Gerais de Serviço dos Termos Específicos do Serviço. As funcionalidades de pré-DG estão disponíveis "tal como estão" e podem ter apoio técnico limitado. Para mais informações, consulte as descrições das fases de lançamento.

Para receber apoio técnico durante a pré-visualização, envie um email para [e-mail].

Este documento descreve como ativar um tempo de execução predefinido com GPUs para utilizadores do Colab Enterprise num projeto. Depois de ativar um tempo de execução predefinido com GPUs, os utilizadores podem mudar de um tempo de execução predefinido normal para um tempo de execução predefinido com GPUs clicando num botão no respetivo bloco de notas.

Este documento destina-se aos administradores do Colab Enterprise que querem ativar tempos de execução predefinidos com GPUs para outros utilizadores na respetiva organização. Pressupõe que tem conhecimentos sobre o seguinte:

• Como gerir os tempos de execução e os modelos de tempo de execução do Colab Enterprise.
• Como usar a gestão de identidade e de acesso (IAM) para controlar o acesso.

Vista geral

Para permitir que os utilizadores mudem para um tempo de execução predefinido com GPUs, um administrador (roles/aiplatform.colabEnterpriseAdmin) ou uma conta de utilizador com a autorização aiplatform.notebookRuntimeTemplates.create tem de criar primeiro um tempo de execução predefinido com GPUs.

Quando cria um tempo de execução predefinido com GPUs pela primeira vez, o Colab Enterprise cria um novo modelo de tempo de execução predefinido que inclui GPUs nas respetivas especificações. O tempo de execução predefinido original não é afetado e existe até expirar ou ser eliminado. Depois de criar o modelo de tempo de execução predefinido com GPUs, qualquer utilizador com a autorização aiplatform.notebookRuntimes.assign no projeto e a autorização aiplatform.notebookRuntimeTemplates.apply no modelo de tempo de execução pode criar e usar um tempo de execução predefinido com GPUs. Estas autorizações estão incluídas na função de utilizador do Colab Enterprise (roles/aiplatform.colabEnterpriseUser).

Especificações

O tempo de execução predefinido com GPUs tem especificações diferentes do tempo de execução predefinido original. Os tipos de máquinas, as GPUs e os tipos de discos de dados disponíveis variam consoante a região, pelo que algumas especificações podem ser diferentes do tempo de execução predefinido original.

A tabela seguinte descreve as especificações de um tempo de execução predefinido com GPUs com base na região do tempo de execução predefinido.

Descrição da região	Especificações de tempo de execução predefinidas
Regiões que suportam GPUs L4	Tipo de máquina: g2-standard-4 Acelerador: 1 acelerador NVIDIA_L4 Disco de dados: 100 GB pd-balanced
Regiões que não suportam GPUs L4, mas suportam GPUs T4	Tipo de máquina: n1-standard-4 Acelerador: 1 acelerador NVIDIA_TESLA_T4 Disco de dados: 100 GB pd-standard
Regiões que não suportam GPUs L4 ou T4	Os tempos de execução predefinidos com GPUs não são suportados.

Disponibilidade do acelerador

O Colab Enterprise suporta tempos de execução predefinidos com os seguintes tipos de aceleradores:

• L4
• T4

Para saber mais sobre a disponibilidade regional destes aceleradores, consulte o artigo Usar aceleradores.

Antes de começar

Sign in to your Google Cloud account. If you're new to Google Cloud, create an account to evaluate how our products perform in real-world scenarios. New customers also get $300 in free credits to run, test, and deploy workloads.

In the Google Cloud console, on the project selector page, select or create a Google Cloud project.

Roles required to select or create a project

• Select a project: Selecting a project doesn't require a specific IAM role—you can select any project that you've been granted a role on.
• Create a project: To create a project, you need the Project Creator (roles/resourcemanager.projectCreator), which contains the resourcemanager.projects.create permission. Learn how to grant roles.

Note: If you don't plan to keep the resources that you create in this procedure, create a project instead of selecting an existing project. After you finish these steps, you can delete the project, removing all resources associated with the project.

Go to project selector

Verify that billing is enabled for your Google Cloud project.

Enable the Vertex AI, Dataform, and Compute Engine APIs.

Roles required to enable APIs

To enable APIs, you need the Service Usage Admin IAM role (roles/serviceusage.serviceUsageAdmin), which contains the serviceusage.services.enable permission. Learn how to grant roles.

Enable the APIs

In the Google Cloud console, on the project selector page, select or create a Google Cloud project.

Roles required to select or create a project

• Select a project: Selecting a project doesn't require a specific IAM role—you can select any project that you've been granted a role on.
• Create a project: To create a project, you need the Project Creator (roles/resourcemanager.projectCreator), which contains the resourcemanager.projects.create permission. Learn how to grant roles.

Note: If you don't plan to keep the resources that you create in this procedure, create a project instead of selecting an existing project. After you finish these steps, you can delete the project, removing all resources associated with the project.

Go to project selector

Verify that billing is enabled for your Google Cloud project.

Enable the Vertex AI, Dataform, and Compute Engine APIs.

Roles required to enable APIs

To enable APIs, you need the Service Usage Admin IAM role (roles/serviceusage.serviceUsageAdmin), which contains the serviceusage.services.enable permission. Learn how to grant roles.

Enable the APIs

Funções necessárias

Para garantir que a sua conta de utilizador tem as autorizações necessárias para ativar os tempos de execução predefinidos com GPUs no Colab Enterprise, peça ao seu administrador para conceder à sua conta de utilizador o papel de administrador do Colab Enterprise (roles/aiplatform.colabEnterpriseAdmin) IAM role on the project.

Important: You must grant this role to your user account, not to your user account. Failure to grant the role to the correct principal might result in permission errors.
For more information about granting roles, see Manage access to projects, folders, and organizations.

Your administrator might also be able to give your user account the required permissions through custom roles or other predefined roles.

One or more of the required roles includes the dataform.repositories.list permission. Users who are granted the dataform.repositories.list permission or the Code Creator (roles/dataform.codeCreator) role in a project can list the names of code assets in that project by using the Dataform API or the Dataform command-line interface (CLI). Non-administrators using BigQuery Studio can only see code assets that they created or that were shared with them.

Enable GPUs for default runtimes

To enable GPUs for default runtimes, do the following:

1. In the Google Cloud console, go to the Colab Enterprise My notebooks page.

   Go to My notebooks

2. In the Region menu, select the region that contains your notebook.

3. Click the notebook that you want to open. If you haven't created a notebook yet, create a notebook.

4. In your notebook, click Connect.
   

5. After Colab Enterprise connects to the default runtime, in the top right corner of your notebook, click the button to switch to a default runtime with GPUs. For example, if your notebook is in a region that supports L4 accelerators, click Switch to L4.
   

Colab Enterprise creates a new default runtime that has GPUs, and then connects to the runtime. The ability to switch to a default runtime with GPUs is enabled for other users in the project.

Turn off GPUs for default runtimes

To turn off the ability to switch to a default runtime with GPUs, you must delete the runtime template named Default with GPU. See Delete a runtime template.

Limitations

• Default runtimes with GPUs are only available in regions that support specific accelerator availability. See Accelerator availability.

• You must first connect a notebook to a default runtime to be able to switch to a default runtime with GPUs.

What's next

• To manage your runtime, see Manage runtimes.
• Learn more about runtimes and runtime templates.