O que é uma carga de trabalho de IA?

As cargas de trabalho de IA e ML podem ser amplamente categorizadas de duas maneiras

• Estágio do ciclo de vida da IA que eles representam (como pré-processamento de dados, treinamento e inferência)
• Tipo de tarefa que realizam (como processamento de linguagem natural ou visão computacional)

Entender esses tipos ajuda os responsáveis pelas decisões técnicas a planejar a infraestrutura, a capacidade de computação e as estratégias de orquestração específicas que cada um exige.

As cargas de trabalho de IA estão no centro da transformação digital, oferecendo aplicativos de alto impacto e do mundo real em quase todos os setores, transformando dados em valor prático.

As cargas de trabalho de IA podem alimentar mecanismos de recomendação para empresas de varejo, e-commerce e mídia. Por exemplo, uma empresa de streaming usa um modelo de ML sofisticado, treinado com bilhões de hábitos de visualização, para fornecer sugestões de conteúdo altamente personalizadas.

Os fabricantes implantam sensores em equipamentos essenciais, gerando grandes quantidades de dados de série temporal. As cargas de trabalho de IA podem analisar continuamente esses dados para prever falhas mecânicas com dias ou semanas de antecedência, permitindo a manutenção programada.

As instituições financeiras usam cargas de trabalho de machine learning para analisar milhões de transações em tempo real. Esses modelos podem identificar padrões indicativos de fraude, e alguns sistemas detectam transações não autorizadas com um alto grau de precisão e baixa taxa de falsos positivos.

As cargas de trabalho de visão computacional são usadas para analisar imagens médicas, como raios X, tomografias computadorizadas e ressonâncias magnéticas. Esses modelos de IA podem sinalizar possíveis anomalias, como tumores em estágio inicial, geralmente com velocidade e consistência que ajudam os médicos a fazer diagnósticos mais rápidos e precisos.

As cargas de trabalho baseadas em modelos de IA generativa estão ajudando a transformar campos criativos e técnicos. Eles são usados para gerar automaticamente textos de marketing, sintetizar imagens realistas para publicidade, criar resumos de reuniões virtuais ou até mesmo ajudar desenvolvedores sugerindo e completando blocos de código.

A implantação de um modelo de machine learning treinado para inferência pode ser uma etapa fundamental na produção de uma carga de trabalho de IA. A Vertex AI simplifica esse processo ao fornecer serviços gerenciados que cuidam da infraestrutura.

Fazer upload do modelo treinado no Model Registry

• A primeira etapa é pegar o artefato do modelo treinado e fazer upload dele no Vertex AI Model Registry. Esse repositório central armazena e controla as versões dos seus modelos de forma segura, deixando-os prontos para a implantação.

Criar um endpoint gerenciado

• Em seguida, você cria um endpoint, que é um servidor HTTP dedicado em tempo real para seu modelo. Esse endpoint é o URL que seus aplicativos vão chamar para receber previsões. Você define o tipo de recursos de computação que ele vai usar, como uma máquina de CPU N1 ou um tipo específico de GPU para desempenho acelerado.

Implante o modelo no endpoint

• Depois de criar o endpoint, você implanta uma versão específica do modelo nele. Essa etapa envolve especificar a imagem do contêiner que inclui o modelo e o código do servidor de previsão (geralmente uma imagem pré-criada fornecida pela Vertex AI). Você também configura divisões de tráfego, que permitem testar uma nova versão do modelo com uma pequena porcentagem de tráfego ativo antes de implantá-la completamente.

Enviar e receber previsões on-line

• Depois de implantado, o modelo fica disponível para previsão on-line. Seu aplicativo envia dados de entrada (a carga útil) por meio de uma solicitação HTTP para o URL do endpoint, e o serviço gerenciado lida com a carga de trabalho de inferência, retornando a previsão ou o resultado quase em tempo real.

Monitorar e governar o endpoint

• A última etapa é o monitoramento contínuo. Você usa as ferramentas integradas da Vertex AI para monitorar a integridade do endpoint (latência, taxas de erro, utilização de recursos) e o desempenho do modelo em si (desvio, distorção e qualidade da previsão) para garantir que a carga de trabalho de inferência permaneça confiável e precisa ao longo do tempo.