Restez organisé à l'aide des collections
Enregistrez et classez les contenus selon vos préférences.
L'appliance isolée Vertex AI sur Google Distributed Cloud (GDC) apporte la puissance d'une plate-forme de machine learning (ML) et d'intelligence artificielle (IA) à votre appareil portable sécurisé. L'appliance GDC isolée physiquement fournit un accès à un ensemble sélectionné d'API Vertex AI pré-entraînées, ce qui permet d'intégrer des fonctionnalités d'IA à votre solution de cloud privé.
Principales fonctionnalités
Vertex AI sur l'appliance GDC isolée vous offre les fonctionnalités suivantes :
Déploiement en réseau isolé : exécutez les services Vertex AI entièrement sur votre appareil portable, ce qui garantit la souveraineté et la conformité des données.
Expérience Vertex AI familière : profitez des mêmes outils et API que Google Cloud, ce qui simplifie le développement et la gestion.
Modèles et algorithmes prédéfinis : accédez à un large éventail de modèles pré-entraînés pour les tâches de machine learning courantes, ce qui vous permet d'accélérer votre délai de rentabilité.
Services disponibles
Vertex AI sur l'appliance GDC isolée propose les services préentraînés suivants :
Planification des capacités et exigences de calcul
Chaque service Vertex AI nécessite des ressources de calcul différentes. Le tableau suivant présente les exigences pour chaque modèle pré-entraîné :
API pré-entraînée
Ressources de calcul
Exigences concernant le nombre de GPU
Exigences de mémoire du GPU
Reconnaissance optique des caractères (OCR)
GPU
Un seul GPU A100 80 Go
40 Go
Speech-to-Text
Processeur
Non applicable (CPU uniquement)
Non applicable (CPU uniquement)
Vertex AI Translation
GPU
Un seul GPU A100 80 Go
50 Go
L'appliance GDC isolée inclut un seul GPU NVIDIA A100 80 Go. Cela limite l'appareil à l'exécution d'une seule API Vertex AI pré-entraînée dépendant du GPU à la fois. Si vous essayez d'activer à la fois Vertex AI Translation et l'OCR, la deuxième API ne pourra pas être activée et un message d'erreur indiquant des ressources GPU insuffisantes s'affichera. Toutefois, vous pouvez exécuter Speech-to-Text en parallèle avec Vertex AI Translation ou OCR, car Speech-to-Text ne nécessite que des ressources de processeur.
Pour vous aider à déterminer le nombre d'unités d'appliance nécessaires pour vos charges de travail d'IA/ML, consultez les limites de capacité suivantes pour chaque API pré-entraînée Vertex AI :
API pré-entraînée
Capacité par appliance
Reconnaissance optique des caractères (OCR)
Jusqu'à 30 images par minute (une image toutes les deux secondes).
Speech-to-Text
Jusqu'à sept minutes de contenu audio transcrit par minute (sept secondes de contenu audio transcrit par seconde).
Vertex AI Translation
Jusqu'à 61 000 caractères par minute (1 024 caractères par seconde).
Lorsque vous planifiez votre déploiement, tenez compte des conseils suivants :
Les limites de capacité sont approximatives et ne sont pas garanties. La capacité réelle peut varier en fonction de facteurs tels que les suivants :
Complexité des données d'entrée (par exemple, langue pour la traduction, qualité de l'image pour l'OCR et clarté de l'audio pour Speech-to-Text).
Configuration spécifique de l'appliance.
Utilisation simultanée d'autres services sur l'appliance.
Une seule API gourmande en GPU (Vertex AI Translation ou OCR) peut être active à la fois, car l'appliance GDC air-gapped est limitée à un seul GPU A100 de 80 Go.
Estimez votre utilisation maximale et votre potentiel de croissance future.
Pour les charges de travail exigeantes nécessitant un débit plus élevé, envisagez de déployer plusieurs unités Appliance.
Le tableau suivant décrit les exigences de stockage pour chaque service Vertex AI sur l'appliance GDC isolée :
Composant
Exigences de stockage
Interface OCR
0,1 Go
Backend OCR
5 GB
Extracteur OCR
0,1 Go
Interface utilisateur Speech-to-Text
0,1 Go
Backend Speech-to-Text
1,5 Go
Interface utilisateur Vertex AI Translation
0,7 Go
Backend Vertex AI Translation
61,4 Go
Assurez-vous que votre appliance dispose d'une capacité de stockage suffisante pour les services Vertex AI que vous prévoyez d'utiliser.
Avantages
Vertex AI sur l'appliance GDC isolée offre les avantages suivants :
Expérience de développement fluide : utilisez les mêmes outils, API et workflows que Vertex AI sur Google Cloud, ce qui rend le développement et la gestion intuitifs et efficaces.
Sécurité et confidentialité renforcées : gardez le contrôle total de vos données et respectez les exigences réglementaires.
Délai de rentabilité accéléré : utilisez des modèles pré-entraînés pour les tâches de machine learning courantes.
MLOps simplifié : profitez de fonctionnalités robustes d'opérations de machine learning pour une intégration fluide de l'IA dans votre environnement isolé.
Premiers pas
Pour commencer à utiliser Vertex AI sur l'appliance GDC air-gapped, procédez comme suit :
Sauf indication contraire, le contenu de cette page est régi par une licence Creative Commons Attribution 4.0, et les échantillons de code sont régis par une licence Apache 2.0. Pour en savoir plus, consultez les Règles du site Google Developers. Java est une marque déposée d'Oracle et/ou de ses sociétés affiliées.
Dernière mise à jour le 2025/09/04 (UTC).
[[["Facile à comprendre","easyToUnderstand","thumb-up"],["J'ai pu résoudre mon problème","solvedMyProblem","thumb-up"],["Autre","otherUp","thumb-up"]],[["Difficile à comprendre","hardToUnderstand","thumb-down"],["Informations ou exemple de code incorrects","incorrectInformationOrSampleCode","thumb-down"],["Il n'y a pas l'information/les exemples dont j'ai besoin","missingTheInformationSamplesINeed","thumb-down"],["Problème de traduction","translationIssue","thumb-down"],["Autre","otherDown","thumb-down"]],["Dernière mise à jour le 2025/09/04 (UTC)."],[],[],null,["# Vertex AI overview\n\nVertex AI on Google Distributed Cloud (GDC) air-gapped appliance brings the power of a\nmachine learning (ML) and artificial intelligence (AI) platform to your secure\nportable device. GDC air-gapped appliance provides access to a select set of\npre-trained Vertex AI APIs, enabling AI capabilities in your private\ncloud solution.\n\nKey features\n------------\n\nVertex AI on GDC air-gapped appliance offers you the following features:\n\n- **Air-gapped deployment**: Run Vertex AI services entirely within your portable device, ensuring data sovereignty and compliance.\n- **Familiar Vertex AI experience**: Take advantage of the same tools and APIs from Google Cloud, simplifying development and management.\n- **Pre-built models and algorithms**: Access a range of pre-trained models for common machine learning tasks, accelerating your time to value.\n\nAvailable services\n------------------\n\nVertex AI on GDC air-gapped appliance offers the following pre-trained\nservices:\n\n- [**Optical Character Recognition (OCR)**](/distributed-cloud/hosted/docs/latest/appliance/application/ao-user/vertex-ai-ocr): Extract text from images and files.\n- [**Speech-to-Text**](/distributed-cloud/hosted/docs/latest/appliance/application/ao-user/vertex-ai-stt): Convert spoken language into written text.\n- [**Vertex AI Translation**](/distributed-cloud/hosted/docs/latest/appliance/application/ao-user/vertex-ai-translation): Translate text between multiple languages.\n\n| **Caution:** GDC air-gapped appliance includes a single NVIDIA A100 80 GB GPU. This limits the device to running only *one* GPU-dependent Vertex AI pre-trained API at a time. For more information, see [Capacity planning and computing requirements](#capacity).\n\nCapacity planning and computing requirements\n--------------------------------------------\n\nEach Vertex AI service requires different computing resources. The\nfollowing table provides the requirements for each pre-trained model:\n\nGDC air-gapped appliance includes a single NVIDIA A100 80 GB GPU. This\nlimits the device to running only *one* GPU-dependent Vertex AI\npre-trained API at a time. If you attempt to enable both Vertex AI Translation\nand OCR, the second API will fail to enable with an error\nmessage indicating insufficient GPU resources. You can, however, run\nSpeech-to-Text alongside either Vertex AI Translation or OCR,\nas Speech-to-Text only requires CPU resources.\n\nTo help you determine the number of appliance units needed for your AI/ML\nworkloads, review the following capacity limits for each Vertex AI\npre-trained API:\n\nWhen you plan your deployment, consider the following guidance:\n\n- The capacity limits are approximate and not guaranteed. Actual capacity might\n vary depending on factors such as the following:\n\n - Complexity of the input data (for example, language for translation, image quality for OCR, and audio clarity for Speech-to-Text).\n - Specific configuration of the appliance.\n - Concurrent usage of other services on the appliance.\n- Only one GPU-intensive API (Vertex AI Translation or OCR) can\n be active at a time because GDC air-gapped appliance is limited to a single\n A100 80 GB GPU.\n\n- Estimate your peak usage and potential future growth.\n\n- For demanding workloads requiring higher throughput, consider deploying\n multiple appliance units.\n\nThe following table outlines the storage requirements for each\nVertex AI service on GDC air-gapped appliance:\n\nEnsure that your appliance has sufficient storage capacity to accommodate the\nVertex AI services you intend to use.\n\nBenefits\n--------\n\nVertex AI on GDC air-gapped appliance offers the following benefits:\n\n- **Seamless development experience**: Use the same tools, APIs, and workflows of Vertex AI on Google Cloud, making development and management intuitive and efficient.\n- **Enhanced security and privacy**: Maintain complete control over your data and comply with regulatory requirements.\n- **Accelerated time to value**: Use pre-trained models for common machine learning tasks.\n- **Streamlined MLOps**: Benefit from robust machine learning operation capabilities for seamless AI integrations within your air-gapped environment.\n\nGetting started\n---------------\n\nTo get started with Vertex AI on GDC air-gapped appliance, do the\nfollowing:\n\n- [Learn about essential roles and permissions for available services](/distributed-cloud/hosted/docs/latest/appliance/application/ao-user/vertex-ai-ao-permissions).\n- [Set up a project for your AI and machine learning workloads](/distributed-cloud/hosted/docs/latest/appliance/application/ao-user/vertex-ai-set-up-project).\n- [Provision GPUs and enable the Vertex AI services](/distributed-cloud/hosted/docs/latest/appliance/application/ao-user/vertex-ai-enable-pre-trained-apis).\n- [Install the Vertex AI client libraries](/distributed-cloud/hosted/docs/latest/appliance/application/ao-user/vertex-ai-install-libraries)."]]
