¿Qué es una carga de trabajo de IA?

Las cargas de trabajo de IA y aprendizaje automático se pueden clasificar de dos formas generales:

• Fase del ciclo de vida de la IA que representan (como el preprocesamiento de datos, el entrenamiento y la inferencia)
• Tipo de tarea que realizan (como el procesamiento del lenguaje natural o la visión artificial)

Conocer estos tipos ayuda a los responsables de la toma de decisiones técnicas a planificar la infraestructura, la potencia computacional y las estrategias de orquestación específicas que requiere cada uno.

Las cargas de trabajo de IA son el núcleo de la transformación digital, ya que ofrecen aplicaciones de alto impacto en el mundo real en casi todos los sectores, convirtiendo los datos en valor práctico.

Las cargas de trabajo de IA pueden impulsar los motores de recomendaciones de comercios, empresas de comercio electrónico y empresas de medios de comunicación. Por ejemplo, una empresa de streaming utiliza un sofisticado modelo de aprendizaje automático, entrenado con miles de millones de hábitos de visualización, para ofrecer sugerencias de contenido muy personalizadas.

Los fabricantes despliegan sensores en equipos críticos, lo que genera grandes cantidades de datos de series temporales. Las cargas de trabajo de IA pueden analizar continuamente estos datos para predecir fallos mecánicos con días o semanas de antelación, lo que permite programar el mantenimiento.

Las instituciones financieras usan cargas de trabajo de aprendizaje automático para analizar millones de transacciones en tiempo real. Estos modelos pueden identificar patrones que indican fraude, y algunos sistemas detectan transacciones no autorizadas con un alto grado de precisión y una baja tasa de falsos positivos.

Las cargas de trabajo de visión artificial se utilizan para analizar imágenes médicas, como radiografías, tomografías computarizadas y resonancias magnéticas. Estos modelos de IA pueden detectar posibles anomalías, como tumores en fases iniciales, a menudo con una velocidad y una coherencia que ayudan a los profesionales sanitarios a hacer diagnósticos más rápidos y precisos.

Las cargas de trabajo basadas en modelos de IA generativa están ayudando a transformar los campos creativos y técnicos. Se usan para generar automáticamente textos de marketing, sintetizar imágenes realistas para publicidad, crear resúmenes de reuniones virtuales o incluso ayudar a los desarrolladores sugiriendo y completando bloques de código.

Desplegar un modelo de aprendizaje automático entrenado para la inferencia puede ser un paso clave para llevar una carga de trabajo de IA a producción. Vertex AI simplifica este proceso proporcionando servicios gestionados que se encargan de la infraestructura subyacente.

Sube el modelo entrenado al registro de modelos

• El primer paso es tomar el artefacto del modelo entrenado y subirlo al registro de modelos de Vertex AI. Este repositorio central almacena y versiona tus modelos de forma segura, lo que los deja listos para su despliegue.

Crea un punto final gestionado

• A continuación, crea un endpoint, que es un servidor HTTP dedicado en tiempo real para tu modelo. Este punto final es la URL a la que llamarán tus aplicaciones para obtener predicciones. Defines el tipo de recursos de computación que usará, como una máquina con CPU N1 o un tipo específico de GPU para un rendimiento acelerado.

Despliega el modelo en el endpoint.

• Después de crear el endpoint, despliegas una versión específica de tu modelo en él. En este paso, se especifica la imagen de contenedor que incluye tu modelo y el código del servidor de predicción (a menudo, una imagen predefinida proporcionada por Vertex AI). También puedes configurar divisiones de tráfico, que te permiten probar una nueva versión de un modelo con un pequeño porcentaje de tráfico real antes de implementarla por completo.

Envía y recibe predicciones online

• Una vez desplegado, el modelo está disponible para la predicción online. Tu aplicación envía datos de entrada (la carga útil) mediante una solicitud HTTP a la URL del endpoint, y el servicio gestionado se encarga de la carga de trabajo de inferencia, devolviendo la predicción o el resultado casi en tiempo real.

Monitoriza y controla el endpoint

• El último paso es la monitorización continua. Usas las herramientas integradas de Vertex AI para monitorizar el estado del endpoint (latencia, tasas de error y uso de recursos) y el rendimiento del modelo en sí (deriva, sesgo y calidad de las predicciones) para asegurarte de que la carga de trabajo de inferencia siga siendo fiable y precisa con el paso del tiempo.