Règles pour les quotas
Allocation de quotas
L'attribution des quotas diffère selon la version de TPU que vous utilisez. Pour les TPU v2 et v3, le quota est défini en termes de cœurs Cloud TPU. Un appareil Cloud TPU unique est composé de 4 puces TPU et de 8 cœurs : 2 cœurs par puce TPU. Les quotas des TPU v2 et v3 sont distincts pour les appareils individuels et pour les pods TPU. Vous ne pouvez pas utiliser de quota de pods TPU v2 ou v3 pour un seul appareil. Par exemple, si vous disposez d'un quota pour une tranche de pod v3-16, vous ne pouvez pas l'utiliser pour créer deux appareils v3-8 uniques.
Pour TPU v4, le quota est déterminé uniquement en fonction des puces Cloud TPU. Tous les TPU v4 sont traités comme des tranches de pod. Il n'y a donc pas de concept d'appareil TPU unique. Vous pouvez utiliser votre quota v4 comme bon vous semble. Par exemple, si vous disposez d'un quota pour une tranche de pod v4-32, vous pouvez l'utiliser pour créer quatre tranches de pod v4-8.
- Un pod Cloud TPU v2 est composé de 64 appareils TPU contenant 256 puces TPU (512 cœurs).
- Un pod Cloud TPU v3 est composé de 256 appareils TPU contenant 1 024 puces TPU (2 048 cœurs).
- Un pod Cloud TPU v4 est composé de 1 024 appareils TPU contenant 4 096 puces et (8 192 cœurs).
Le nombre de cœurs spécifie également le quota d'un Cloud TPU particulier. Par exemple, un quota égal à 8 permet l'utilisation de 8 cœurs. Avec un quota égal à 16, vous pouvez utiliser jusqu'à 16 cœurs, et ainsi de suite.
La notation version-cœurs, par exemple v2-8, indique la version du Cloud TPU et le nombre de cœurs. Étant donné que le nombre de cœurs est aussi utilisé pour spécifier un quota, cette notation décrit également une allocation de quota Cloud TPU. Par exemple, v2-32 indique un type de TPU v2 avec 32 cœurs.
Lorsque vous créez un projet Google Cloud, Cloud TPU lui alloue un quota par défaut.
Quota TPU v4
Pour recevoir des quotas pour TPU v4, veuillez contacter votre conseiller commercial ou remplir ce formulaire d'inscription.
Quota pour les types de TPU v2 et v3
Pour les types de TPU individuels, il existe des quotas pour le nombre de cœurs à la demande, et pour le nombre de cœurs des TPU préemptifs.
- TPU à la demande : le quota par défaut est égal à 16 cœurs (2 appareils TPU).
- TPU préemptifs : le quota par défaut est égal au minimum à 48 cœurs (6 appareils TPU).
Quota pour les pods TPU v2 et v3
Le quota par défaut des pods Cloud TPU est de 0. Pour utiliser des pods TPU, vous devez demander un quota d'évaluation ou des quotas supplémentaires.
Quota d'évaluation
Demandez l'accès aux quotas d'évaluation afin de pouvoir tester les performances des pods TPU. Les nœuds TPU que vous créez à l'aide des quotas d'évaluation sont facturés par tranches d'une seconde. Ils n'offrent pas le même niveau de service que les appareils TPU à la demande ou les appareils créés à l'aide des quotas d'engagement. Les quotas d'évaluation ne sont conservés que pour une durée limitée dans votre projet.
Quota de requêtes en file d'attente
Il existe un quota pour le nombre de requêtes de la file d'attente, qui est partagé entre tous les types de TPU. Un quota par défaut est disponible pour tous les projets, et un quota supplémentaire peut être demandé.
Demander des quotas supplémentaires
Les quotas alloués à votre projet Google Cloud s'affichent dans Google Cloud Console. Si vous avez besoin d'un quota Cloud TPU supplémentaire, vous pouvez le demander depuis la page "Quotas" de Google Cloud Console en procédant comme suit:
- Accédez à la page Quotas.
- Dans la zone Filtre, sélectionnez Quota dans la liste déroulante. Un nouveau menu déroulant Propriétés s'ouvre.
- Dans le menu Propriétés, sélectionnez Cœurs pod TPU tpu-type par projet et par région, où tpu-type correspond au type de TPU à utiliser. Par exemple, v2 ou v3.
Vous pouvez également sélectionner Cœurs pod TPU tpu-type par projet par zone.
Pour obtenir la liste complète des types de TPU disponibles pour chaque zone, consultez la page Types de TPU et zones.
- Sélectionnez une ou plusieurs régions ou zones dans lesquelles vous souhaitez utiliser des pods Cloud TPU.
- Cliquez sur Modifier les quotas.
- Indiquez votre nom, votre adresse e-mail et votre numéro de téléphone, puis cliquez sur Suivant.
- Saisissez votre demande d'augmentation de quota et cliquez sur Suivant.
- Envoyez la demande.
Vous recevrez une réponse de l'équipe Cloud TPU dans un délai d'un à deux jours ouvrés.