¿Qué es la inferencia de IA?

Aunque el ciclo de vida completo de la IA abarca desde la recogida de datos hasta la monitorización a largo plazo, el recorrido central de un modelo, desde su creación hasta su ejecución, consta de tres fases clave. Los dos primeros se centran en el aprendizaje, mientras que el último consiste en poner en práctica lo aprendido.

• El entrenamiento de la IA es la fase de aprendizaje fundamental. Es un proceso que consume muchos recursos computacionales, en el que un modelo analiza un conjunto de datos masivo para aprender patrones y relaciones. El objetivo es crear un modelo preciso y con conocimientos. Esto requiere potentes aceleradores de hardware (como GPUs y TPUs) y puede llevar desde horas hasta semanas.
• El ajuste de la IA es un atajo para el entrenamiento. Se toma un modelo potente y preentrenado y se adapta a una tarea más específica usando un conjunto de datos más pequeño y especializado. Esto ahorra mucho tiempo y recursos en comparación con el entrenamiento de un modelo desde cero.
• La inferencia de IA es la fase de ejecución. Utiliza el modelo entrenado y ajustado para hacer predicciones rápidas sobre datos nuevos y "desconocidos". Cada predicción individual requiere mucha menos potencia computacional que el entrenamiento, pero ofrecer millones de predicciones en tiempo real exige una infraestructura altamente optimizada y escalable.
• El servicio de IA es el proceso de desplegar y gestionar el modelo para la inferencia. Esto suele implicar empaquetar el modelo, configurar un endpoint de API y gestionar la infraestructura para que pueda procesar las solicitudes.

En esta tabla se resumen las principales diferencias:

En esencia, la inferencia de IA consta de tres pasos que transforman los datos nuevos en un resultado útil. 

Veamos un ejemplo sencillo: un modelo de IA creado para identificar objetos en fotos.

1. Preparación de los datos de entrada: en primer lugar, se proporcionan datos nuevos, como una foto que acabas de enviar. Esta foto se prepara al instante para el modelo, lo que puede significar simplemente cambiar su tamaño a las dimensiones exactas con las que se entrenó.
2. Ejecución del modelo: a continuación, el modelo de IA analiza la foto preparada. Busca patrones (como colores, formas y texturas) que coincidan con lo que aprendió durante su entrenamiento. Este análisis rápido se denomina "pase hacia adelante", un paso de solo lectura en el que el modelo aplica sus conocimientos sin aprender nada nuevo.
3. Generación de resultados: el modelo produce un resultado útil. En el caso del análisis de fotos, podría ser una puntuación de probabilidad (por ejemplo, un 95 % de posibilidades de que la imagen contenga un "perro"). Esta salida se envía a la aplicación y se muestra al usuario.

Aunque una sola inferencia es rápida, servir a millones de usuarios en tiempo real aumenta la latencia y el coste, y requiere hardware optimizado. Las unidades de procesamiento gráfico (GPUs) especializadas en IA y las unidades de procesamiento de tensor de Google se han diseñado para gestionar estas tareas de forma eficiente, junto con la orquestación con Google Kubernetes Engine, lo que ayuda a aumentar el rendimiento y reducir la latencia.

Este es el enfoque más común, en el que la inferencia se ejecuta en potentes servidores remotos en un centro de datos. La nube ofrece una escalabilidad y unos recursos computacionales inmensos, lo que la convierte en la opción ideal para gestionar conjuntos de datos masivos y modelos complejos. En la nube, suele haber dos modos principales de inferencia:

• Inferencia en tiempo real (online): procesa solicitudes individuales de forma instantánea a medida que llegan, a menudo en cuestión de milisegundos. Esto es fundamental para las aplicaciones interactivas que requieren una respuesta inmediata.
• Inferencia por lotes (offline): procesa grandes volúmenes de datos de una sola vez, normalmente cuando no se necesitan respuestas inmediatas. Es un método muy rentable para realizar análisis periódicos o tareas programadas.

Este enfoque realiza la inferencia directamente en el dispositivo donde se generan los datos, que puede ser un smartphone o un sensor industrial. Al evitar el viaje de ida y vuelta a la nube, la inferencia en el perímetro ofrece ventajas únicas:

• Latencia reducida: las respuestas son casi instantáneas, lo cual es fundamental para aplicaciones como los vehículos autónomos o las comprobaciones de fabricación en tiempo real.
• Privacidad mejorada: los datos sensibles (como escáneres médicos, fotos personales o feeds de vídeo) se pueden procesar en el dispositivo sin enviarse nunca a la nube.
• Menores costes de ancho de banda: al procesar los datos de forma local, se reduce significativamente la cantidad de datos que se deben subir y descargar.
• Funcionalidad sin conexión: la aplicación puede seguir funcionando incluso sin conexión a Internet, lo que garantiza un funcionamiento continuo en entornos remotos o desconectados.

Para ayudarte a elegir el mejor enfoque para tus necesidades específicas, aquí tienes una breve comparación de las características clave y los casos prácticos de cada tipo de inferencia de IA:

La inferencia de IA presenta una serie de retos técnicos específicos, como la gestión de la latencia, el control de los costes y la garantía de la escalabilidad. Google Cloud ofrece una ruta flexible para la inferencia, lo que te permite elegir las herramientas adecuadas en función de la complejidad de tu modelo, las necesidades de rendimiento y la capacidad operativa. Puedes empezar con soluciones totalmente gestionadas y, a medida que evolucionen tus necesidades, ir adoptando una infraestructura más personalizada.

Este enfoque es ideal para desarrolladores de cualquier nivel, incluidos aquellos que no tienen experiencia con la IA y quieren integrar rápidamente funciones potentes de IA. Solo hay que hacer llamadas a la API sencillas, sin necesidad de gestionar modelos ni infraestructura.

Esta opción está pensada para desarrolladores que ya han creado un modelo personalizado. Puedes desplegarlo en el servicio gestionado de Google Cloud, lo que significa que no tienes que encargarte de la compleja configuración del servidor ni de la orquestación. Así puedes centrarte en tu modelo, no en la infraestructura.

Ofrece a los desarrolladores y a los equipos de MLOps un control pormenorizado y flexibilidad para desplegar, gestionar y escalar servicios de inferencia en contenedores personalizados, a menudo con hardware especializado, en entornos de nube o híbridos.

Si trabajas con SQL, ahora puedes obtener predicciones de modelos de IA directamente donde ya tienes tus datos. De esta forma, no es necesario mover los datos a una plataforma independiente, lo que simplifica tu flujo de trabajo.