Cloud TPU

Acelere as cargas de trabalho de machine learning com os aceleradores de hardware desenvolvidos pelo Google.

Faça um teste gratuito Entre em contato com a equipe de vendas

Acesse o console Entre em contato com a equipe de vendas

Acelere os modelos de machine learning com os supercomputadores do Google

O Cloud TPU permite que as empresas acelerem os modelos de machine learning, incluindo processamento de linguagem natural (PLN), classificação e recomendações e visão computacional. Desenvolvedores, pesquisadores e empresas podem usar os mesmos circuitos integrados de machine learning (ASICs, na sigla em inglês) personalizados que se aplicam ao modelo de pesquisa do Google, YouTube e LaMDA.

Treine e itere rapidamente em modelos de machine learning.

O Cloud TPU minimiza o tempo e a precisão de um treinamento de modelos de rede neural grandes e complexos. Modelos que levariam semanas para serem treinados em outro hardware.

Gerencie cargas de trabalho em grande escala com flexibilidade

As TPUs foram projetadas especificamente para modelos com cálculos de matriz e modelos grandes com tamanhos de lotes grandes e efetivos. Com as VMs de TPU, é fácil empregar frameworks de ML conhecidos.

Reduzir custos e aumentar a sustentabilidade

O Cloud TPU oferece desempenho em baixo custo por dólar em escala para várias cargas de trabalho de ML. E agora o Cloud TPU v4 oferece aos clientes 2,2x mais ~1,4 vezes mais FLOPs por dólar em comparação com o Cloud TPU v3.

Cloud TPUs para cada carga de trabalho e orçamento

A Cloud TPU foi criada para executar modelos de machine learning de última geração com serviços de IA no Google Cloud. A rede personalizada de alta velocidade oferece mais de 100 petaflops de desempenho em um único pod, uma capacidade computacional suficiente para transformar seus negócios ou criar a próxima inovação de pesquisa.

Compatibilidade com versões anteriores completas

Os pods da TPU v4 do Cloud são a última geração dos aceleradores de ML personalizados do Google e agora estão disponíveis no GA. Ele mantém a compatibilidade com versões anteriores do Cloud TPU v2 e v3, mas tem um aumento duas vezes maior que a TPU v3 do Cloud em desempenho bruto de computação por ícone. Cada chip TPU v4 também contém um único núcleo lógico, permitindo o uso de 32 GiB de memória total de um programa, em comparação com 8 GiB na v2 e 16 GiB na v3. Saiba quais produtos do Cloud TPU funcionam melhor para suas necessidades exclusivas de projeto.

Executa frameworks conhecidos de ML

Execute cargas de trabalho de machine learning em Cloud TPUs com frameworks de machine learning, como TensorFlow, Pytorch e JAX. Nossos guias de início rápido fornecem uma breve introdução de como trabalhar com VMs do Cloud TPU e explicam como instalar um framework de ML e executar um aplicativo de amostra em uma VM do Cloud TPU.

Economize dinheiro usando TPUs do Cloud preemptivas

Economize dinheiro usando as Cloud TPUs preemptivas para cargas de trabalho de machine learning tolerantes a falhas, como longas execuções de treinamentos com checkpoints ou previsão em lote de grandes conjuntos de dados. A Cloud TPU preemptiva tem custo 70% menor que as instâncias por demanda. Dessa forma, todos os itens estão mais acessíveis que nunca, desde seus primeiros testes até pesquisas de hiperparâmetros em larga escala. Acesse nossa página de preços para entender como a Cloud TPU pode processar suas cargas de trabalho de machine learning de maneira econômica.

Saiba como a TPU v4 ajudou nossos clientes

co:here

“Na Cohere, criamos serviços modernos de processamento de linguagem natural (PLN), incluindo APIs para geração, classificação e pesquisa de idiomas. Essas ferramentas são baseadas em um conjunto de modelos de linguagem que o Cohere treina do zero em Cloud TPUs usando o JAX. Observamos uma melhoria de 70% no tempo de treinamento do nosso maior modelo ao migrar dos pods do Cloud TPU v3 para os pods do Cloud TPU v4, o que permitiu iterações mais rápidas para nossos pesquisadores e resultados de maior qualidade para nossos clientes. A pegada de carbono excepcionalmente baixa dos pods do Cloud TPU v4 foi outro fator importante para nós."

Aidan Gomez, CEO e cofundador

LG AI Research

“A LG AI Research, como parceira estratégica de pesquisa, participou do teste da TPU v4 antes da comercialização, o supercomputador de aprendizado de máquina mais recente do Google, para treinar a LG EXAONE, uma IA supergigante com 300 bilhões de parâmetros em escala. Equipada com capacidades multimodais, a LG EXAONE estava treinando com a TPU v4 e uma grande quantidade de dados, mais de 600 bilhões de corpus de texto e 250 milhões de imagens, visando superar especialistas humanos em termos de comunicação, produtividade, criatividade e muitos outros aspectos. O desempenho da TPU v4 foi superior ao de outras arquiteturas de computação de ponta, e o suporte voltado aos clientes superou nossas expectativas. Estávamos muito animados para colaborar com o Google e esperamos consolidar a parceria estratégica para concretizar nossa visão máxima, avançando pela IA para uma vida melhor.”

Kyunghoon Bae, PhD, diretor de pesquisa de IA da LG

Salesforce

“Com o acesso antecipado à TPU v4, pudemos inovar na programação de IA de conversação em nosso projeto CodeGen, um modelo de linguagem com regressão automática de 16 bilhões de parâmetros que transforma solicitações simples em inglês em código executável. O tamanho grande desse modelo é motivado pela observação empírica de que o dimensionamento do número de parâmetros do modelo proporcional ao número de amostras de treinamento parece melhorar estritamente o desempenho do modelo. Esse fenômeno é conhecido como lei de escalonamento. A TPU v4 é uma excelente plataforma para este tipo de treinamento de escalonamento horizontal, oferecendo vantagens de desempenho significativas em relação a outras alternativas de hardware de IA."

Erik Nijkamp, cientista de pesquisas, Salesforce

Recursos técnicos

Próximos passos

Comece a criar no Google Cloud com US$ 300 em créditos e mais de 20 produtos do programa Sempre gratuito.

Faça uma avaliação gratuita

Precisa de ajuda para começar?

Entre em contato com a equipe de vendas

Trabalhe com um parceiro confiável

Encontre um parceiro

Continue navegando

Veja todos os produtos

Vá além

Inicie seu próximo projeto, veja tutoriais interativos e gerencie sua conta.

Acesse o console

Precisa de ajuda para começar?

Entre em contato com a equipe de vendas

Trabalhe com um parceiro confiável

Encontre um parceiro

Veja dicas e práticas recomendadas

Veja tutoriais

Os produtos de IA do Cloud estão em conformidade com as políticas de SLA do Google Cloud. Eles oferecem garantias de latência ou disponibilidade diferentes de outros serviços do Google Cloud.