Qu'est-ce qu'une charge de travail d'IA ?

Les charges de travail d'IA et de ML peuvent être classées en deux grandes catégories :

• Étape du cycle de vie de l'IA qu'elles représentent (comme le prétraitement des données, l'entraînement et l'inférence)
• Type de tâche qu'elles effectuent (comme le traitement du langage naturel ou la vision par ordinateur)

La compréhension de ces catégories aide les responsables techniques à planifier l'infrastructure, la puissance de calcul et les stratégies d'orchestration spécifiques que chacune d'elles exige.

Les charges de travail d'IA sont au cœur de la transformation numérique. Elles offrent des applications concrètes à fort impact dans presque tous les secteurs, et transforment les données en valeur pratique.

Les charges de travail d'IA peuvent alimenter des moteurs de recommandation pour les entreprises de vente au détail, d'e-commerce et du secteur des médias. Par exemple, une entreprise de streaming utilise un modèle de ML sophistiqué, entraîné sur des milliards d'habitudes de visionnage, pour fournir des suggestions de contenu hautement personnalisées.

Les fabricants déploient des capteurs sur les équipements critiques, ce qui génère d'énormes quantités de données de séries temporelles. Les charges de travail d'IA peuvent analyser en continu ces données pour prédire les défaillances mécaniques plusieurs jours ou semaines à l'avance, ce qui permet de planifier la maintenance.

Les institutions financières utilisent des charges de travail de machine learning pour analyser des millions de transactions en temps réel. Ces modèles peuvent identifier des schémas révélateurs de fraude, et certains systèmes détectent les transactions non autorisées de manière ultra-précise et avec un faible taux de faux positifs.

Les charges de travail de vision par ordinateur permettent d'analyser des images médicales telles que les radiographies, les scanners et les IRM. Ces modèles d'IA peuvent signaler des anomalies potentielles, comme des tumeurs à un stade précoce, souvent avec une rapidité et une cohérence qui aident les cliniciens à établir des diagnostics plus rapides et plus précis.

Les charges de travail basées sur des modèles d'IA générative contribuent à transformer les domaines créatifs et techniques. Elles servent à générer automatiquement des textes marketing, à synthétiser des images réalistes pour la publicité, à créer des résumés de réunions virtuelles ou même à aider les développeurs en suggérant et en complétant des blocs de code.

Le déploiement d'un modèle de machine learning entraîné pour l'inférence peut être une étape clé de la mise en production d'une charge de travail d'IA. Vertex AI simplifie ce processus en fournissant des services gérés qui prennent en charge l'infrastructure sous-jacente.

Importer le modèle entraîné dans le registre de modèles

• La première étape consiste à prendre l'artefact de modèle entraîné et à l'importer dans Vertex AI Model Registry. Ce dépôt centralisé stocke et gère les versions de vos modèles de manière sécurisée, ce qui les rend prêts à être déployés.

Créer un point de terminaison géré

• Vous créez ensuite un point de terminaison, qui est un serveur HTTP dédié en temps réel pour votre modèle. Ce point de terminaison est l'URL que vos applications appelleront pour obtenir des prédictions. Vous définissez le type de ressources de calcul qu'il utilisera, comme une machine à haute capacité de processeur N1 ou un type de GPU spécifique pour des performances accélérées.

Déployer le modèle sur le point de terminaison

• Après avoir créé le point de terminaison, vous y déployez une version spécifique de votre modèle. Cette étape consiste à spécifier l'image de conteneur qui inclut votre modèle et le code du serveur de prédiction (souvent une image prédéfinie fournie par Vertex AI). Vous configurez également des répartitions du trafic, qui vous permettent de tester une nouvelle version du modèle avec un faible pourcentage de trafic en direct avant de la déployer complètement.

Envoyer et recevoir des prédictions en ligne

• Une fois déployé, le modèle est disponible pour la prédiction en ligne. Votre application envoie les données d'entrée (la charge utile) à l'URL du point de terminaison via une requête HTTP. Le service géré traite la charge de travail d'inférence et renvoie la prédiction ou le résultat en temps quasi réel.

Surveiller et contrôler le point de terminaison

• La dernière étape est la surveillance continue. Vous utilisez les outils intégrés de Vertex AI pour suivre l'état du point de terminaison (latence, taux d'erreur, utilisation des ressources) et les performances du modèle lui-même (dérive, décalage et qualité des prédictions) afin de vous assurer que la charge de travail d'inférence reste fiable et précise dans le temps.