Para simplificar o uso do Google Cloud nos fluxos de trabalho do CAE, reunimos os componentes certos da nuvem para atender aos requisitos de cargas de trabalho CAE com uso intensivo de computação. Especificamente, nossa solução CAE é arquitetada com base nas famílias de VMs H3 e C3 do Google Cloud, com base na plataforma Intel Xeon mais recente. Essas famílias de VMs fornecem alta largura de banda de memória para uma proporção de memória/flop equilibrada, idealmente adequada para CAE. A solução atende a aplicativos MPI com acoplamento rígido, além de cargas de trabalho que exigem memória e até 16 GB/núcleo. Ela inclui várias opções de armazenamento que atendem a uma ampla variedade de requisitos de E/S. Para o gerenciamento de recursos, ela oferece suporte a agendadores como o Slurm da SchedMD e o PBS Professional da Altair. 

O diagrama da arquitetura a seguir ilustra a solução:

Ao executar cargas de trabalho CAE na nuvem, vários fatores devem ser considerados, incluindo:

• Compatibilidade: verifique se os aplicativos CAE foram testados quanto à compatibilidade com o ambiente HPC baseado na nuvem.
• Seleção de VM: escolha o tipo de VM correto para a execução otimizada do software ISV. Muitas cargas de trabalho de CAE servem para arquiteturas com grandes quantidades de largura de banda de memória e uma proporção de flops/memória equilibrada geral.
• Escalonabilidade: considere que cargas de trabalho CAE maiores talvez precisem ser executadas em várias VMs, o que exige suporte a MPI e implantações densas das VMs.
• Capacidade de processamento: avalie quantas cargas de trabalho precisam ser executadas simultaneamente e considere modelos de programação com escalonamento automático que podem aumentar e reduzir os recursos de nuvem de acordo com a demanda.
• Custo: pacotes comerciais de software ISV para o CAE geralmente são licenciados "por núcleo". Esse é um fator importante no custo total e pode influenciar a escolha de um tipo de VM.
• Uso/consumo: a nuvem oferece elasticidade que a instalação no local não pode oferecer. Explore o equilíbrio certo entre uso sob demanda e uso contínuo ou até mesmo VMs spot.
• Facilidade de uso: certifique-se de que a solução de HPC na nuvem escolhida seja fácil de usar e gerenciar.

Como parte da solução de CAE do Google Cloud, desenvolvemos uma arquitetura de referência de CAE de uso geral e um blueprint, que podem ser usados prontamente com o Cloud HPC Toolkit do Google para provisionar a arquitetura CAE no Google Cloud. Verificamos a compatibilidade e o desempenho de vários dos principais aplicativos ISV, incluindo: 

• Ansys Fluent 
• Ansys Mechanical 
• Ansys LS-DYNA 
• Siemens Simcenter STAR-CCM+ 
• Altair Radioss
• OpenFOAM

Consulte a seção de comparativos de mercado abaixo para conferir o desempenho desses pacotes de software.

O blueprint da arquitetura de referência de CAE de uso geral permite que os usuários abram instantaneamente um ambiente de nuvem que seja compatível com uma ampla variedade de aplicativos e fluxos de trabalho de CAE. É uma boa opção para usuários que querem ter flexibilidade na escolha do software de CAE e que querem gerenciar o próprio ambiente de HPC. Ele também serve como ponto de partida para integradores de sistema, aproveitando as práticas recomendadas do Google para executar simulações de CAE no Google Cloud.

O Google Cloud também oferece vários Blueprints específicos de aplicativos para softwares CAE conhecidos. Esses blueprints são pré-configurados para oferecer o desempenho ideal para o software CAE específico. Softwares com blueprints específicos incluem:

• Ansys Fluent
• Siemens SimCenter STAR-CCM+
• OpenFOAM

Os blueprints específicos do aplicativo são uma boa opção para usuários que querem começar a usar o CAE de maneira rápida e fácil. Os blueprints fornecem um ambiente pré-configurado que é otimizado para o software CAE específico, para que os usuários não precisem se preocupar com a configuração do ambiente.

O Google Cloud tem parcerias com vários provedores de HPC como serviço, como TotalCAE, Rescale, Parallel Works, Eviden Nimbix, Penguin Computing e NAG, além de fornecedores de ISVs CAE, como a Altair. Esses provedores oferecem uma variedade de soluções de HPC gerenciadas para CAE, incluindo ambientes de software CAE pré-configurados, suporte para aplicativos CAE específicos e serviços de consultoria especializada. Essas ofertas são uma boa opção para usuários que querem uma solução de HPC gerenciada para CAE. Os provedores oferecem uma variedade de serviços, incluindo ambientes de software CAE pré-configurados, suporte para aplicativos CAE específicos e serviços de consultoria especializada.

A solução CAE é criada no Google Compute Engine, mas também é possível usar outros frameworks de computação, como o Google Kubernetes Engine ou o Google Batch. O Kubernetes Engine é um serviço gerenciado do Kubernetes que pode ser usado para executar cargas de trabalho CAE em um ambiente conteinerizado. O Kubernetes Engine é uma boa opção para cargas de trabalho CAE que exigem escalonabilidade e portabilidade. O Google Batch é um serviço gerenciado para executar jobs em lote. O Batch é uma boa opção para cargas de trabalho CAE que não são conteinerizadas e não exigem personalização ou ajustes significativos.

Leia mais sobre a arquitetura de ambientes HPC em nosso guia técnico do Kit de ferramentas de cluster, que abrange as várias opções de infraestrutura (computação, rede, armazenamento), software de sistema (programadores, armazenamento) e considerações de arquitetura.

Há uma série de práticas recomendadas que podem ser seguidas para otimizar o desempenho das cargas de trabalho de CAE no Google Cloud. Por exemplo, é possível usar políticas de posicionamento para garantir que as cargas de trabalho sejam colocadas em recursos de computação próximos, o que pode reduzir a latência e melhorar o desempenho. Você também pode usar o Cloud HPC Toolkit para otimizar suas cargas de trabalho.

Nosso guia de “Práticas recomendadas para execução de cargas de trabalho de HPC” documenta como melhorar o desempenho do MPI. Tanto a MPI da Open como a MPI da Intel foram ajustadas e otimizadas para o desempenho imediato do Google Cloud, em parceria com os engenheiros de rede de HPC do Google Cloud.

O Google Cloud oferece uma ampla variedade de tipos de máquinas, cada um com diferentes configurações de CPU, GPU e memória. Escolher o tipo de máquina certo para sua carga de trabalho pode ter um impacto significativo no desempenho e no custo. Por exemplo, a VM H3 é uma boa opção para aplicativos CAE licenciados por núcleo devido à alta proporção de largura de banda de memória para núcleo e com 4 GB/núcleo que a VM H3 fornece memória suficiente para diversas cargas de trabalho. Para cargas de trabalho que exigem memória, como mecânicas estruturais, a VM C3 tem 16 GB/núcleo na configuração de alta memória.

O Google Cloud oferece uma variedade de opções de armazenamento, cada uma com características de custo e desempenho diferentes. Escolher a opção de armazenamento certa para sua carga de trabalho pode ter um impacto significativo no desempenho e no custo. Também existem vários tipos de armazenamento em um ambiente de HPC a serem considerados.

Ambientes de HPC típicos hospedam pelo menos dois tipos de armazenamento com requisitos diferentes: armazenamento doméstico e armazenamento temporário. A escolha do tipo de armazenamento para cada um dependerá das necessidades específicas da carga de trabalho de HPC. Por exemplo, uma carga de trabalho que gera uma grande quantidade de dados de rascunho pode exigir uma solução de armazenamento de trabalho de alto desempenho, ou uma carga de trabalho que acesse dados comuns em vários nós de computação simultaneamente pode exigir um sistema de arquivos paralelo. A escolha do tipo de armazenamento para uma carga de trabalho de HPC depende das necessidades dela.

Além do armazenamento doméstico e do armazenamento temporário, os ambientes de HPC também podem usar outros tipos de armazenamento, como o armazenamento de arquivos, que é usado para armazenar dados não acessados com frequência. O Archive Storage pode ser fornecido pelo Cloud Storage de maneira mais econômica.

Armazenamento domiciliar

O armazenamento doméstico normalmente é usado para armazenar arquivos compartilhados de usuários, principalmente no diretório “/home”, como configurações, scripts e dados de pós-processamento. Esse armazenamento será montado no mesmo local no cluster para permitir o acesso comum a este namespace. O armazenamento doméstico normalmente é permanente. O armazenamento doméstico é normalmente construído no protocolo NFS.

Em um ambiente de HPC do Google Cloud, o armazenamento doméstico pode ser fornecido por serviços do Google, como o Filestore, ou ofertas de parceiros, como a NetApp.

• O Google Cloud Filestore é um serviço de armazenamento de arquivos totalmente gerenciado que oferece acesso aos dados de alto desempenho e baixa latência. O Filestore é uma boa opção para armazenar dados de armazenamento doméstico que são acessados com frequência.
• O Cloud Volumes Service da NetApp é um serviço de armazenamento de arquivos totalmente gerenciado que oferece acesso a dados de alto desempenho e baixa latência. O Cloud Volumes Service da NetApp é uma boa opção para armazenar dados de armazenamento doméstico que são acessados com frequência.

Armazenamento de trabalho

O armazenamento de trabalho normalmente é usado para armazenar arquivos temporários, como resultados intermediários e dados de saída de simulação. Eles podem ser compartilhados ou não entre diferentes nós no ambiente HPC. O armazenamento de trabalho normalmente não é permanente. O armazenamento de trabalho geralmente é construído em sistemas de armazenamento de maior desempenho do que o armazenamento em casa, como armazenamento flash local ou sistemas de arquivos paralelos.

Em um ambiente de HPC do Google Cloud, o armazenamento temporário pode ser fornecido por Serviços do Google, como Persistent Disk, SSD local, Cloud Filestore ou Parallelstore, ou por ofertas de parceiros, como NetApp, DDN EXAScaler, Sycomp e Weka.

• O Persistent Disk do Google Cloud é um serviço de armazenamento em blocos que oferece acesso aos dados de alto desempenho e baixa latência. O disco permanente pode ser usado para criar um diretório de rascunho para cada usuário em um cluster de HPC.
• O SSD local do Google Cloud é uma opção de armazenamento SSD local disponível em alguns tipos de máquina do Compute Engine. O SSD local pode ser usado para criar um diretório de rascunho para cada usuário em um cluster de HPC.
• O Google Cloud Filestore é um serviço de armazenamento de arquivos NFS totalmente gerenciado que oferece acesso aos dados de alto desempenho e baixa latência. O Filestore pode ser usado para criar um diretório de rascunho para cada usuário em um cluster de HPC.
• O Google Cloud Parallelstore é um sistema de arquivos paralelo de alto desempenho otimizado para cargas de trabalho de HPC. O Parallelstore pode ser usado para criar um diretório de rascunho para cada usuário em um cluster de HPC.
• O Cloud Volumes Service da NetApp é um serviço de armazenamento de arquivos totalmente gerenciado que oferece acesso a dados de alto desempenho e baixa latência. O Cloud Volumes Service da NetApp pode ser usado para criar um diretório de rascunho para cada usuário em um cluster de HPC.
• O DDN EXAScaler Cloud é um sistema de arquivos paralelo de alto desempenho otimizado para cargas de trabalho de HPC. O DDN EXAScaler Cloud pode ser usado para criar um ou vários diretórios de rascunho em um cluster de HPC.
• O WekaIO Matrix é um sistema de arquivos paralelo de alto desempenho otimizado para cargas de trabalho de HPC. É possível usar a matriz do WekaIO para criar um diretório de rascunho para cada usuário em um cluster de HPC.

Spot VMs

As VMs spot podem ser uma maneira econômica de executar cargas de trabalho do CAE. As VMs spot estão disponíveis por um preço com desconto, mas podem ser encerradas a qualquer momento com um curto período de aviso. As VMs spot têm um desconto de até 91% no custo de uma instância padrão e são compatíveis com os tipos de recursos que os usuários de HPC esperam, como GPUs e SSDs locais. 

Se o fluxo de trabalho puder tolerar a chance de interrupção (preempção), testar o modelo Spot é uma boa ideia se o aplicativo puder ser executado em um período relativamente curto (menos de 4 horas). Os clientes descobriram que a economia de custos de até 90% em comparação com o sob demanda economiza o suficiente para tolerar interrupções menores.

Alguns tipos de VM, como H3, não são compatíveis com o Spot.

O AirShaper é uma plataforma de aerodinâmica on-line que permite que designers e engenheiros executem simulações de fluxo de ar de maneira completamente automatizada, permitindo que usuários sem experiência em aerodinâmica obtenham resultados confiáveis e melhorem o projeto.

A AirShaper migrou suas cargas de trabalho de HPC Computational Fluid Dynamics (CFD) para a nova família de VMs C2D de uma plataforma de VM mais antiga, economizando tempo de simulação e custo por execução de carga de trabalho em comparação com o ambiente de nuvem anterior e melhorando drasticamente o tempo de resultados em comparação com local.

"Na AirShaper, oferecemos simulações de CFD a um custo fixo. Geralmente, mais núcleos e mais rápidos significam um custo geral mais alto, em parte devido a problemas de escalonamento. Mas, com o H3, podemos reduzir os tempos de simulação pela metade e, ao mesmo tempo, reduzir o custo geral."

– Wouter Remmerie, CEO, Airshaper

A Altair é uma empresa de tecnologia global que fornece soluções de software e nuvem nas áreas de desenvolvimento de produtos, computação de alto desempenho (HPC) e análise de dados. O software da Altair é usado por engenheiros, cientistas e analistas de dados para resolver problemas complexos em uma ampla gama de setores, incluindo automotivo, aeroespacial, manufatura e energia.

A Altair é uma Google Cloud Partner, e o software dela está disponível no Google Cloud. O software da Altair é otimizado para o Google Cloud e pode ser usado para aproveitar o desempenho, a escalonabilidade e a flexibilidade do Google Cloud. A Altair tem o compromisso de ajudar os clientes a atingir as metas de HPC e oferece uma ampla variedade de soluções de software para HPC. Uma delas é o Radioss, uma ferramenta de análise de elementos finitos. A Altair conseguiu demonstrar melhorias significativas no ambiente de execução baseado na nuvem do Radioss com a nova VM H3.

“Na Altair, estamos felizes porque os testes iniciais indicam uma redução de até 3 vezes no ambiente de execução da simulação para cargas de trabalho da Radioss executadas no H3 em comparação com o C2. Esses ambientes de execução significativamente mais rápidos no Google Cloud ajudarão a aumentar a produtividade de engenharia para nossos clientes conjuntos.”

- Eric Lequiniou, vice-presidente sênior, desenvolvimento de Radioss e Altair Solver

A TotalCAE é líder no fornecimento de soluções gerenciadas de HPC para aplicativos científicos e de engenharia. As soluções da TotalCAE foram desenvolvidas para serem fáceis de usar e para ajudar os clientes a acelerar os resultados, reduzir custos e aumentar a produtividade. As soluções da TotalCAE são usadas por clientes do mundo todo para resolver problemas complexos de engenharia e científico. Por exemplo, as soluções da TotalCAE são usadas para projetar e simular aeronaves, carros e outros veículos. analisar o desempenho de edifícios e pontes; e desenvolver novos medicamentos e terapias.

A TotalCAE é um Google Cloud Partner e suas soluções são compatíveis com a operação no Google Cloud. As soluções da TotalCAE são otimizadas para o Google Cloud e podem ser usadas para aproveitar o desempenho, a escalonabilidade e a flexibilidade do Google Cloud. Usando a infraestrutura de HPC do Google Cloud, a TotalCAE conseguiu oferecer aos clientes um desempenho melhor por um custo menor. 

“Com as instâncias H3 do Google Cloud, tivemos um aumento de até 25% no desempenho por núcleo para cargas de trabalho CAE a um custo de job 50% menor do que o C2, permitindo que a TotalCAE ofereça aos clientes um desempenho de preço até 2, 5 vezes maior e escalonabilidade para cargas de trabalho do CAE no Google Cloud.”

- Rodney Mach, CEO, TotalCAE