Erreurs de l'API d'inférence de l'IA générative sur Vertex AI

Ce guide fournit une liste des erreurs que vous pouvez rencontrer lors de l'utilisation de la documentation de référence de l'API du modèle pour l'IA générative. Les erreurs suivent le modèle d'erreur de l'API  Google Cloud , qui nous recommande de fournir des conseils sur les causes possibles et sur les solutions spécifiques aux modèles d'IA générative.

Erreurs d'API

Ce tableau fournit les codes d'erreur de l'API et leur description.

Code d'erreur HTTP Code d'erreur canonique Cause Exemple Solution
400 INVALID_ARGUMENT / FAILED_PRECONDITION La validation de l'API pour la requête a échoué, ou vous avez tenté d'accéder à un modèle qui nécessite une autorisation ou qui n'est pas autorisé par le règlement de l'organisation. La requête dépasse la limite de jetons d'entrée du modèle. Pour en savoir plus sur les paramètres de requête, le nombre de jetons et d'autres paramètres, consultez la documentation de référence de l'API du modèle pour l'IA générative .
403 PERMISSION_DENIED Le client ne dispose pas des autorisations nécessaires pour appeler l'API. Le compte de service n'est pas autorisé à accéder au bucket Cloud Storage qui héberge les ressources d'image ou de vidéo. 1. Vérifiez que toutes les API nécessaires sont activées et que le compte de service dispose de la permission appropriée pour accéder au service Vertex AI sélectionné.

2. Le compte de service Vertex AI par produit et par projet (P4SA) dispose des autorisations nécessaires pour accéder aux ressources référencées dans l'entrée.
404 NOT_FOUND Aucun objet valide n'a été trouvé à l'URL indiquée. Le fichier image est introuvable dans l'URL de stockage. Vérifiez l'emplacement du fichier et effectuez les corrections nécessaires.
429 RESOURCE_EXHAUSTED Selon le message d'erreur, le problème peut être dû aux éléments suivants :

1. Quota d'API dépassé.

2. Une surcharge du serveur en raison de la capacité du serveur partagé.

3. Vous avez atteint la limite quotidienne de demandes utilisant logprobs.
L'API Gemini dépasse la limite de requêtes par minute. 1. Vérifiez les limites de quota de l'IA générative sur Vertex AI. Si nécessaire, demandez un quota supérieur.

2. Réessayez dans quelques secondes. Si l'erreur persiste après une longue période (plusieurs heures), contactez l'assistance Vertex AI.

3. Envisagez d'acheter du débit provisionné.
499 CANCELLED La demande a été annulée par le client.
500 UNKNOWN / INTERNAL Erreur du serveur due à une surcharge ou à une défaillance de dépendance. La requête est limitée, car le service est temporairement surchargé. Réessayez dans quelques secondes. Si l'erreur persiste après une longue période (plusieurs heures), contactez l'assistance Vertex AI.
503 UNAVAILABLE Le service est momentanément indisponible. Le serveur ne répond pas aux requêtes entrantes. Il est possible que l'état "Indisponible" soit temporaire. Toutefois, si l'erreur persiste, contactez l'assistance Vertex AI.
504 DEADLINE_EXCEEDED Le client définit un délai plus court que le délai par défaut du serveur (10 minutes), et la requête ne s'est pas terminée dans le délai fourni par le client. Envisagez de repousser la date limite fournie par le client.

Gérer les erreurs

Évitez les pics de trafic. Les pics sont des augmentations soudaines et significatives du nombre de requêtes sur une très courte période. Parfois, les pics de trafic peuvent entraîner des problèmes d'application des quotas et augmenter le risque de surcharge du serveur.

Soyez prudent lorsque vous réessayez un événement. Nous vous recommandons de ne pas réessayer plus de deux fois. Le délai minimal est d'une seconde, et les requêtes suivantes sont mises en file d'attente de manière exponentielle.

Étapes suivantes