Mit Sammlungen den Überblick behalten
Sie können Inhalte basierend auf Ihren Einstellungen speichern und kategorisieren.
Mit der Air-Gap-Appliance für Vertex AI auf Google Distributed Cloud (GDC) können Sie die Leistungsfähigkeit einer Plattform für maschinelles Lernen (ML) und künstliche Intelligenz (KI) auf Ihrem sicheren tragbaren Gerät nutzen. Die GDC-Air-Gap-Appliance bietet Zugriff auf eine ausgewählte Gruppe vortrainierter Vertex AI-APIs, die KI-Funktionen in Ihrer privaten Cloud-Lösung ermöglichen.
Wichtige Features
Vertex AI auf der GDC-Appliance mit Air Gap bietet Ihnen die folgenden Funktionen:
Air-gapped-Bereitstellung: Führen Sie Vertex AI-Dienste vollständig auf Ihrem tragbaren Gerät aus, um Datenhoheit und Compliance zu gewährleisten.
Vertraute Vertex AI-Umgebung: Nutzen Sie dieselben Tools und APIs wie bei Google Cloud, um die Entwicklung und Verwaltung zu vereinfachen.
Vorgefertigte Modelle und Algorithmen: Sie haben Zugriff auf eine Reihe vortrainierter Modelle für gängige Aufgaben im Bereich maschinelles Lernen, was die Wertschöpfung beschleunigt.
Verfügbare Dienste
Vertex AI auf der GDC-Air-Gap-Appliance bietet die folgenden vortrainierten Dienste:
Für jeden Vertex AI-Dienst sind unterschiedliche Computing-Ressourcen erforderlich. Die folgende Tabelle enthält die Anforderungen für die einzelnen vortrainierten Modelle:
Vortrainierte API
Rechenressourcen
Anforderungen an die GPU-Anzahl
GPU-Arbeitsspeicheranforderungen
Optische Zeichenerkennung (Optical Character Recognition, OCR)
GPU
Eine einzelne A100-GPU mit 80 GB
40 GB
Speech-to-Text
CPU
Nicht zutreffend (nur CPU)
Nicht zutreffend (nur CPU)
Vertex AI Translation
GPU
Eine einzelne A100-GPU mit 80 GB
50 GB
Die GDC-Appliance für Air-Gap-Umgebungen enthält eine einzelne NVIDIA A100-GPU mit 80 GB. Dadurch kann auf dem Gerät jeweils nur eine GPU-abhängige vortrainierte Vertex AI API ausgeführt werden. Wenn Sie versuchen, sowohl Vertex AI Translation als auch OCR zu aktivieren, schlägt die Aktivierung der zweiten API mit einer Fehlermeldung fehl, die auf unzureichende GPU-Ressourcen hinweist. Sie können Speech-to-Text jedoch zusammen mit Vertex AI Translation oder OCR ausführen, da für Speech-to-Text nur CPU-Ressourcen erforderlich sind.
Die folgenden Kapazitätslimits für die einzelnen vortrainierten Vertex AI-APIs können Ihnen helfen, die Anzahl der Appliance-Einheiten zu ermitteln, die für Ihre KI-/ML-Arbeitslasten erforderlich sind:
Vortrainierte API
Kapazität pro Geräteeinheit
Optische Zeichenerkennung (Optical Character Recognition, OCR)
Bis zu 30 Bilder pro Minute (ein Bild alle zwei Sekunden).
Speech-to-Text
Bis zu sieben Minuten Audio transkribiert pro Minute (sieben Sekunden Audio transkribiert pro Sekunde).
Vertex AI Translation
Bis zu 61.000 Zeichen pro Minute (1.024 Zeichen pro Sekunde).
Beachten Sie bei der Planung der Bereitstellung Folgendes:
Die Kapazitätslimits sind Näherungswerte und können nicht garantiert werden. Die tatsächliche Kapazität kann je nach Faktoren wie den folgenden variieren:
Komplexität der Eingabedaten (z. B. Sprache für die Übersetzung, Bildqualität für die OCR und Audioqualität für Speech-to-Text).
Spezifische Konfiguration der Appliance.
Gleichzeitige Nutzung anderer Dienste auf dem Gerät.
Es kann jeweils nur eine GPU-intensive API (Vertex AI Translation oder OCR) aktiv sein, da die GDC-Air-Gap-Appliance auf eine einzelne A100-GPU mit 80 GB beschränkt ist.
Schätzen Sie Ihre maximale Nutzung und das potenzielle zukünftige Wachstum.
Für anspruchsvolle Arbeitslasten, die einen höheren Durchsatz erfordern, sollten Sie mehrere Appliance-Einheiten bereitstellen.
In der folgenden Tabelle sind die Speicheranforderungen für jeden Vertex AI-Dienst auf der GDC-Appliance ohne Internetverbindung aufgeführt:
Komponente
Speicherbedarf
OCR-Frontend
0,1 GB
OCR-Backend
5 GB
OCR-Extraktor
0,1 GB
Speech-to-Text-Frontend
0,1 GB
Speech-to-Text-Backend
1,5 GB
Vertex AI Translation-Frontend
0,7 GB
Vertex AI Translation-Backend
61,4 GB
Achten Sie darauf, dass Ihre Appliance ausreichend Speicherkapazität für die Vertex AI-Dienste hat, die Sie verwenden möchten.
Vorteile
Vertex AI auf der GDC-Appliance mit Air-Gap bietet folgende Vorteile:
Nahtlose Entwicklung: Verwenden Sie dieselben Tools, APIs und Workflows von Vertex AI auf Google Cloud, um die Entwicklung und Verwaltung intuitiv und effizient zu gestalten.
Höhere Sicherheit und mehr Datenschutz: Sie behalten die vollständige Kontrolle über Ihre Daten und halten die gesetzlichen Anforderungen ein.
Schnellere Wertschöpfung: Verwenden Sie vortrainierte Modelle für gängige Aufgaben im Bereich des maschinellen Lernens.
Optimierte MLOps: Profitieren Sie von robusten Machine Learning-Funktionen für die nahtlose KI-Integration in Ihrer Air-Gap-Umgebung.
Erste Schritte
So beginnen Sie mit Vertex AI auf der GDC-Appliance mit Air-Gap:
[[["Leicht verständlich","easyToUnderstand","thumb-up"],["Mein Problem wurde gelöst","solvedMyProblem","thumb-up"],["Sonstiges","otherUp","thumb-up"]],[["Schwer verständlich","hardToUnderstand","thumb-down"],["Informationen oder Beispielcode falsch","incorrectInformationOrSampleCode","thumb-down"],["Benötigte Informationen/Beispiele nicht gefunden","missingTheInformationSamplesINeed","thumb-down"],["Problem mit der Übersetzung","translationIssue","thumb-down"],["Sonstiges","otherDown","thumb-down"]],["Zuletzt aktualisiert: 2025-09-04 (UTC)."],[],[],null,["# Vertex AI overview\n\nVertex AI on Google Distributed Cloud (GDC) air-gapped appliance brings the power of a\nmachine learning (ML) and artificial intelligence (AI) platform to your secure\nportable device. GDC air-gapped appliance provides access to a select set of\npre-trained Vertex AI APIs, enabling AI capabilities in your private\ncloud solution.\n\nKey features\n------------\n\nVertex AI on GDC air-gapped appliance offers you the following features:\n\n- **Air-gapped deployment**: Run Vertex AI services entirely within your portable device, ensuring data sovereignty and compliance.\n- **Familiar Vertex AI experience**: Take advantage of the same tools and APIs from Google Cloud, simplifying development and management.\n- **Pre-built models and algorithms**: Access a range of pre-trained models for common machine learning tasks, accelerating your time to value.\n\nAvailable services\n------------------\n\nVertex AI on GDC air-gapped appliance offers the following pre-trained\nservices:\n\n- [**Optical Character Recognition (OCR)**](/distributed-cloud/hosted/docs/latest/appliance/application/ao-user/vertex-ai-ocr): Extract text from images and files.\n- [**Speech-to-Text**](/distributed-cloud/hosted/docs/latest/appliance/application/ao-user/vertex-ai-stt): Convert spoken language into written text.\n- [**Vertex AI Translation**](/distributed-cloud/hosted/docs/latest/appliance/application/ao-user/vertex-ai-translation): Translate text between multiple languages.\n\n| **Caution:** GDC air-gapped appliance includes a single NVIDIA A100 80 GB GPU. This limits the device to running only *one* GPU-dependent Vertex AI pre-trained API at a time. For more information, see [Capacity planning and computing requirements](#capacity).\n\nCapacity planning and computing requirements\n--------------------------------------------\n\nEach Vertex AI service requires different computing resources. The\nfollowing table provides the requirements for each pre-trained model:\n\nGDC air-gapped appliance includes a single NVIDIA A100 80 GB GPU. This\nlimits the device to running only *one* GPU-dependent Vertex AI\npre-trained API at a time. If you attempt to enable both Vertex AI Translation\nand OCR, the second API will fail to enable with an error\nmessage indicating insufficient GPU resources. You can, however, run\nSpeech-to-Text alongside either Vertex AI Translation or OCR,\nas Speech-to-Text only requires CPU resources.\n\nTo help you determine the number of appliance units needed for your AI/ML\nworkloads, review the following capacity limits for each Vertex AI\npre-trained API:\n\nWhen you plan your deployment, consider the following guidance:\n\n- The capacity limits are approximate and not guaranteed. Actual capacity might\n vary depending on factors such as the following:\n\n - Complexity of the input data (for example, language for translation, image quality for OCR, and audio clarity for Speech-to-Text).\n - Specific configuration of the appliance.\n - Concurrent usage of other services on the appliance.\n- Only one GPU-intensive API (Vertex AI Translation or OCR) can\n be active at a time because GDC air-gapped appliance is limited to a single\n A100 80 GB GPU.\n\n- Estimate your peak usage and potential future growth.\n\n- For demanding workloads requiring higher throughput, consider deploying\n multiple appliance units.\n\nThe following table outlines the storage requirements for each\nVertex AI service on GDC air-gapped appliance:\n\nEnsure that your appliance has sufficient storage capacity to accommodate the\nVertex AI services you intend to use.\n\nBenefits\n--------\n\nVertex AI on GDC air-gapped appliance offers the following benefits:\n\n- **Seamless development experience**: Use the same tools, APIs, and workflows of Vertex AI on Google Cloud, making development and management intuitive and efficient.\n- **Enhanced security and privacy**: Maintain complete control over your data and comply with regulatory requirements.\n- **Accelerated time to value**: Use pre-trained models for common machine learning tasks.\n- **Streamlined MLOps**: Benefit from robust machine learning operation capabilities for seamless AI integrations within your air-gapped environment.\n\nGetting started\n---------------\n\nTo get started with Vertex AI on GDC air-gapped appliance, do the\nfollowing:\n\n- [Learn about essential roles and permissions for available services](/distributed-cloud/hosted/docs/latest/appliance/application/ao-user/vertex-ai-ao-permissions).\n- [Set up a project for your AI and machine learning workloads](/distributed-cloud/hosted/docs/latest/appliance/application/ao-user/vertex-ai-set-up-project).\n- [Provision GPUs and enable the Vertex AI services](/distributed-cloud/hosted/docs/latest/appliance/application/ao-user/vertex-ai-enable-pre-trained-apis).\n- [Install the Vertex AI client libraries](/distributed-cloud/hosted/docs/latest/appliance/application/ao-user/vertex-ai-install-libraries)."]]
