Implantar cargas de trabalho da GPU no Autopilot

Saiba como solicitar aceleradores de hardware (GPUs) nas cargas de trabalho do GKE Autopilot.

Exibir um LLM com várias GPUs no GKE

Saiba como exibir Llama 2 70B ou Falcon 40B usando várias GPUs NVIDIA L4 com o GKE.

Disponibilizar um LLM usando TPUs de vários hosts no GKE com o Saxml

Saiba como exibir o Falcon 7b, Llama2 7b, Falcon 40b ou Llama2 70b usando o framework do Ray no GKE.

Primeiros passos com Ray no GKE

Saiba como começar a usar o Ray no GKE executando uma carga de trabalho em um cluster do Ray.

Exibir um LLM em GPUs L4 com Ray

Saiba como exibir o Falcon 7b, Llama2 7b, Falcon 40b ou Llama2 70b usando o framework do Ray no GKE.

Orquestrar cargas de trabalho do TPU Multislice usando o JobSet e Kueue

Saiba como orquestrar uma carga de trabalho Jax em várias frações de TPU no GKE usando o JobSet e Kueue.

Como monitorar cargas de trabalho da GPU no GKE com o NVIDIA Data Center GPU Manager (DCGM)

Saiba como observar as cargas de trabalho da GPU no GKE com o NVIDIA Data Center GPU Manager (DCGM).

Guia de início rápido: treinar um modelo com GPUs nos clusters do GKE Standard

Neste guia de início rápido, mostramos como implantar um modelo de treinamento com GPUs no GKE e armazenar as previsões no Cloud Storage.

Como executar machine learning em larga escala no GKE

Neste vídeo, mostramos como o GKE ajuda a resolver desafios comuns do treinamento de grandes modelos de IA em escala e as práticas recomendadas para treinar e disponibilizar modelos de machine learning em grande escala no GKE.

TensorFlow no GKE Autopilot com aceleração de GPU

Esta postagem do blog é um guia explicativo para a criação, execução e desmontagem de um notebook Jupiter com Tensorflow.

Implementar um sistema de enfileiramento de jobs com compartilhamento de cota entre namespaces no GKE

Neste tutorial, usamos o Kueue para mostrar como implementar um sistema de enfileiramento de jobs e configurar o compartilhamento de cotas e recursos de carga de trabalho entre diferentes namespaces no GKE.

Infraestrutura para um aplicativo de IA generativa com capacidade para RAG usando o GKE

Arquitetura de referência para executar um aplicativo de IA generativa com geração de recuperação aumentada (RAG, na sigla em inglês) usando GKE, Cloud SQL, Ray, Hugging Face e LangChain.

Inovação na pesquisa de patentes: como o IPRally aproveita a IA com o GKE e o Ray

Como a IPRally usa o GKE e o Ray para criar uma plataforma de ML escalonável e eficiente para pesquisas de patentes mais rápidas e com maior precisão.

Análise detalhada de desempenho do Gemma no Google Cloud

Use o Gemma em GPUs e TPUs do Cloud para aumentar a eficiência da inferência e do treinamento no GKE.

Análise detalhada do Gemma no GKE: inovações para disponibilizar modelos abertos de IA generativa

Use os melhores modelos abertos do Gemma para criar aplicativos de IA portáteis e personalizáveis e implantá-los no GKE.

Programação avançada de IA/ML com Ray e Kueue

Orquestre aplicativos do Ray no GKE com o KubeRay e o Kueue.

Como proteger o Ray no Google Kubernetes Engine

Aplicar insights de segurança e técnicas de fortalecimento para treinar cargas de trabalho de IA/ML usando o Ray no GKE.

Planejar armazenamento para cargas de trabalho de IA e ML no Google Cloud

Selecione a melhor combinação de opções de armazenamento para cargas de trabalho de IA e ML no Google Cloud.

A instalação automática de drivers simplifica o uso de GPUs NVIDIA no GKE

Instale automaticamente os drivers de GPU da Nvidia no GKE.

Acelere sua jornada de IA generativa com o framework NVIDIA NeMo no GKE

Treine modelos de IA generativa usando o GKE e o framework NVIDIA NeMo.

Por que usar o GKE para suas cargas de trabalho da Ray AI?

Melhore a escalonabilidade, a economia, a tolerância a falhas, o isolamento e a portabilidade usando o GKE para cargas de trabalho do Ray.

Como executar IA no GKE totalmente gerenciado, agora com novas opções de computação, preços e reservas de recursos

Ganhe suporte aprimorado, desempenho e preços mais baixos para cargas de trabalho de IA/ML com o Autopilot do GKE.

Como a SEEN aumentou a saída em 89 vezes e reduziu os custos da GPU em 66% usando o GKE

A startup escalona a saída de vídeo personalizada com o GKE.

Como a Let's Enhancer usa IA e NVIDIA na edição de fotos com base em IA

IA inovadora para embelezar imagens usando GPUs NVIDIA e GKE.

Como o compartilhamento de GPU do GKE ajuda a busca por neutrinos pelos cientistas

O compartilhamento de GPU do GKE ajuda os cientistas a procurar neutrinos.

GPUs de compartilhamento de tempo no GKE

Saiba como o recurso de compartilhamento de tempo da GPU no GKE permite que vários contêineres compartilhem uma única GPU física, melhorando assim a utilização.

GPUs com várias instâncias no GKE

Saiba como as GPUs de várias instâncias no GKE ajudam a gerar mais valor dos seus investimentos em GPU.

Como a Etsy usa o GKE para reformular a plataforma de machine learning

A Etsy aproveita o aprendizado de máquina para criar experiências personalizadas para milhões de compradores no mundo todo.

Como o Spotify está liberando a inovação em ML com Ray e GKE

Como Ray está transformando o desenvolvimento de ML no Spotify.

Como a Ordaōs Bio aproveita a IA generativa no GKE

A Ordaōs Bio, um dos principais aceleradores de IA na pesquisa e descoberta biomédica, está encontrando soluções para novas imunoterapias na oncologia e nas doenças inflamatórias crônicas.

GKE de uma startup em crescimento com tecnologia de ML

Como a Moloco, uma startup do Vale do Silício, aproveitou o poder do GKE e do Tensor Flow Enterprise para turbinar a infraestrutura de machine learning (ML).

Ray no GKE

Use este modelo do Terraform para executar o Ray no GKE.

Configurar o Ray no GKE com TPUs

Use esta amostra do Terraform para implantar o Ray em um cluster do GKE com uma topologia 2x2x1.

Cargas de trabalho de treinamento de ML no GKE usando a API JobSet

Execute cargas de trabalho de treinamento de machine learning distribuídas no GKE usando a API JobSet.

"Hello World" do JAX no GKE

Execute um programa JAX simples usando GPUs NVIDIA A100-80GB em um cluster do GKE.