Tetap teratur dengan koleksi
Simpan dan kategorikan konten berdasarkan preferensi Anda.
Vertex AI di perangkat air-gapped Google Distributed Cloud (GDC) menghadirkan kecanggihan platform machine learning (ML) dan kecerdasan buatan (AI) ke perangkat portabel Anda yang aman. Perangkat air gap GDC menyediakan akses ke serangkaian API Vertex AI terlatih tertentu, sehingga memungkinkan kemampuan AI dalam solusi cloud pribadi Anda.
Fitur utama
Vertex AI di perangkat air-gapped GDC menawarkan fitur berikut:
Deployment yang terisolasi dari internet: Jalankan layanan Vertex AI sepenuhnya dalam perangkat portabel Anda, sehingga memastikan kedaulatan dan kepatuhan data.
Pengalaman Vertex AI yang sudah dikenal: Manfaatkan alat dan API yang sama dari Google Cloud, sehingga menyederhanakan pengembangan dan pengelolaan.
Model dan algoritma bawaan: Akses berbagai model terlatih untuk tugas machine learning umum, sehingga mempercepat waktu Anda untuk mendapatkan nilai.
Layanan yang tersedia
Vertex AI di perangkat air-gapped GDC menawarkan layanan terlatih sebelumnya berikut:
Setiap layanan Vertex AI memerlukan resource komputasi yang berbeda. Tabel
berikut memberikan persyaratan untuk setiap model terlatih:
API terlatih
Sumber daya komputasi
Persyaratan jumlah GPU
Persyaratan memori GPU
Pengenalan Karakter Optik (OCR)
GPU
Satu GPU A100 80 GB
40 GB
Speech-to-Text
CPU
Tidak berlaku (khusus CPU)
Tidak berlaku (khusus CPU)
Vertex AI Translation
GPU
Satu GPU A100 80 GB
50 GB
Perangkat air-gapped GDC mencakup satu GPU NVIDIA A100 80 GB. Hal ini
membatasi perangkat untuk menjalankan hanya satu API pra-latih Vertex AI yang bergantung pada GPU
dalam satu waktu. Jika Anda mencoba mengaktifkan Vertex AI Translation dan OCR, API kedua akan gagal diaktifkan dengan pesan error yang menunjukkan bahwa resource GPU tidak mencukupi. Namun, Anda dapat menjalankan
Speech-to-Text bersama Vertex AI Translation atau OCR,
karena Speech-to-Text hanya memerlukan resource CPU.
Untuk membantu Anda menentukan jumlah unit appliance yang diperlukan untuk beban kerja AI/ML, tinjau batas kapasitas berikut untuk setiap API terlatih sebelumnya Vertex AI:
API terlatih
Kapasitas per unit appliance
Pengenalan Karakter Optik (OCR)
Hingga 30 gambar per menit (satu gambar setiap dua detik).
Speech-to-Text
Hingga tujuh menit audio ditranskripsikan per menit (tujuh detik audio ditranskripsikan per detik).
Vertex AI Translation
Hingga 61.000 karakter per menit (1.024 karakter per detik).
Saat Anda merencanakan deployment, pertimbangkan panduan berikut:
Batas kapasitas adalah perkiraan dan tidak dijamin. Kapasitas sebenarnya dapat bervariasi bergantung pada faktor-faktor seperti berikut:
Kompleksitas data input (misalnya, bahasa untuk terjemahan, kualitas gambar untuk OCR, dan kejelasan audio untuk Speech-to-Text).
Konfigurasi spesifik appliance.
Penggunaan layanan lain secara bersamaan di perangkat.
Hanya satu API yang intensif GPU (Vertex AI Translation atau OCR) yang dapat aktif dalam satu waktu karena perangkat GDC yang terisolasi dari internet dibatasi untuk satu GPU A100 80 GB.
Perkirakan penggunaan puncak dan potensi pertumbuhan di masa mendatang.
Untuk workload berat yang memerlukan throughput lebih tinggi, pertimbangkan untuk men-deploy beberapa unit appliance.
Tabel berikut menguraikan persyaratan penyimpanan untuk setiap layanan Vertex AI di perangkat air-gapped GDC:
Komponen
Persyaratan penyimpanan
Frontend OCR
0,1 GB
Backend OCR
5 GB
Ekstraktor OCR
0,1 GB
Frontend Speech-to-Text
0,1 GB
Backend Speech-to-Text
1,5 GB
Frontend Vertex AI Translation
0,7 GB
Backend Vertex AI Translation
61,4 GB
Pastikan perangkat Anda memiliki kapasitas penyimpanan yang cukup untuk mengakomodasi layanan Vertex AI yang ingin Anda gunakan.
Manfaat
Vertex AI di perangkat air-gapped GDC menawarkan manfaat berikut:
Pengalaman pengembangan yang lancar: Gunakan alat, API, dan alur kerja Vertex AI yang sama di Google Cloud, sehingga pengembangan dan pengelolaan menjadi intuitif dan efisien.
Keamanan dan privasi yang ditingkatkan: Pertahankan kontrol penuh atas data Anda dan patuhi persyaratan peraturan.
Waktu untuk mendapatkan nilai yang lebih cepat: Gunakan model terlatih untuk tugas machine learning umum.
MLOps yang disederhanakan: Manfaatkan kemampuan operasi machine learning yang andal untuk integrasi AI yang lancar dalam lingkungan yang terisolasi dari internet.
Memulai
Untuk mulai menggunakan Vertex AI di perangkat air-gapped GDC, lakukan
hal berikut:
[[["Mudah dipahami","easyToUnderstand","thumb-up"],["Memecahkan masalah saya","solvedMyProblem","thumb-up"],["Lainnya","otherUp","thumb-up"]],[["Sulit dipahami","hardToUnderstand","thumb-down"],["Informasi atau kode contoh salah","incorrectInformationOrSampleCode","thumb-down"],["Informasi/contoh yang saya butuhkan tidak ada","missingTheInformationSamplesINeed","thumb-down"],["Masalah terjemahan","translationIssue","thumb-down"],["Lainnya","otherDown","thumb-down"]],["Terakhir diperbarui pada 2025-09-04 UTC."],[],[],null,["# Vertex AI overview\n\nVertex AI on Google Distributed Cloud (GDC) air-gapped appliance brings the power of a\nmachine learning (ML) and artificial intelligence (AI) platform to your secure\nportable device. GDC air-gapped appliance provides access to a select set of\npre-trained Vertex AI APIs, enabling AI capabilities in your private\ncloud solution.\n\nKey features\n------------\n\nVertex AI on GDC air-gapped appliance offers you the following features:\n\n- **Air-gapped deployment**: Run Vertex AI services entirely within your portable device, ensuring data sovereignty and compliance.\n- **Familiar Vertex AI experience**: Take advantage of the same tools and APIs from Google Cloud, simplifying development and management.\n- **Pre-built models and algorithms**: Access a range of pre-trained models for common machine learning tasks, accelerating your time to value.\n\nAvailable services\n------------------\n\nVertex AI on GDC air-gapped appliance offers the following pre-trained\nservices:\n\n- [**Optical Character Recognition (OCR)**](/distributed-cloud/hosted/docs/latest/appliance/application/ao-user/vertex-ai-ocr): Extract text from images and files.\n- [**Speech-to-Text**](/distributed-cloud/hosted/docs/latest/appliance/application/ao-user/vertex-ai-stt): Convert spoken language into written text.\n- [**Vertex AI Translation**](/distributed-cloud/hosted/docs/latest/appliance/application/ao-user/vertex-ai-translation): Translate text between multiple languages.\n\n| **Caution:** GDC air-gapped appliance includes a single NVIDIA A100 80 GB GPU. This limits the device to running only *one* GPU-dependent Vertex AI pre-trained API at a time. For more information, see [Capacity planning and computing requirements](#capacity).\n\nCapacity planning and computing requirements\n--------------------------------------------\n\nEach Vertex AI service requires different computing resources. The\nfollowing table provides the requirements for each pre-trained model:\n\nGDC air-gapped appliance includes a single NVIDIA A100 80 GB GPU. This\nlimits the device to running only *one* GPU-dependent Vertex AI\npre-trained API at a time. If you attempt to enable both Vertex AI Translation\nand OCR, the second API will fail to enable with an error\nmessage indicating insufficient GPU resources. You can, however, run\nSpeech-to-Text alongside either Vertex AI Translation or OCR,\nas Speech-to-Text only requires CPU resources.\n\nTo help you determine the number of appliance units needed for your AI/ML\nworkloads, review the following capacity limits for each Vertex AI\npre-trained API:\n\nWhen you plan your deployment, consider the following guidance:\n\n- The capacity limits are approximate and not guaranteed. Actual capacity might\n vary depending on factors such as the following:\n\n - Complexity of the input data (for example, language for translation, image quality for OCR, and audio clarity for Speech-to-Text).\n - Specific configuration of the appliance.\n - Concurrent usage of other services on the appliance.\n- Only one GPU-intensive API (Vertex AI Translation or OCR) can\n be active at a time because GDC air-gapped appliance is limited to a single\n A100 80 GB GPU.\n\n- Estimate your peak usage and potential future growth.\n\n- For demanding workloads requiring higher throughput, consider deploying\n multiple appliance units.\n\nThe following table outlines the storage requirements for each\nVertex AI service on GDC air-gapped appliance:\n\nEnsure that your appliance has sufficient storage capacity to accommodate the\nVertex AI services you intend to use.\n\nBenefits\n--------\n\nVertex AI on GDC air-gapped appliance offers the following benefits:\n\n- **Seamless development experience**: Use the same tools, APIs, and workflows of Vertex AI on Google Cloud, making development and management intuitive and efficient.\n- **Enhanced security and privacy**: Maintain complete control over your data and comply with regulatory requirements.\n- **Accelerated time to value**: Use pre-trained models for common machine learning tasks.\n- **Streamlined MLOps**: Benefit from robust machine learning operation capabilities for seamless AI integrations within your air-gapped environment.\n\nGetting started\n---------------\n\nTo get started with Vertex AI on GDC air-gapped appliance, do the\nfollowing:\n\n- [Learn about essential roles and permissions for available services](/distributed-cloud/hosted/docs/latest/appliance/application/ao-user/vertex-ai-ao-permissions).\n- [Set up a project for your AI and machine learning workloads](/distributed-cloud/hosted/docs/latest/appliance/application/ao-user/vertex-ai-set-up-project).\n- [Provision GPUs and enable the Vertex AI services](/distributed-cloud/hosted/docs/latest/appliance/application/ao-user/vertex-ai-enable-pre-trained-apis).\n- [Install the Vertex AI client libraries](/distributed-cloud/hosted/docs/latest/appliance/application/ao-user/vertex-ai-install-libraries)."]]
