Persyaratan penginstalan

Sebelum memesan Gemini di API yang terhubung ke Google Distributed Cloud, Anda harus memenuhi persyaratan penginstalan yang dijelaskan dalam dokumen ini. Untuk informasi tambahan, lihat Mendapatkan Dukungan.

Hardware bersertifikasi

Sebelum memesan Gemini di GDC connected API, Anda harus mendapatkan hardware bersertifikasi yang sesuai dengan konfigurasi persis seperti yang dijelaskan di bagian ini. Konfigurasi ini ditujukan untuk satu mesin bersertifikasi Google.

Item SKU Dell Kuantitas
PowerEdge XE9680, DSS RESTRICTED 210-BHYV 1
Sasis 2,5 379-BDTF 1
Trusted Platform Module 2.0 V3 461-AAIG 1
Sasis XE9680 6U dengan 8 GPU 8 x 2,5 NVMe Saja 321-BIEK 1
Intel Xeon Platinum 8592+ 1,9G, 64C/128T, 20GT/s, Cache 320M, Turbo, HT (350W) DDR5-5600 338-CPBP 1
Intel Xeon Platinum 8592+ 1,9G, 64C/128T, 20GT/s, Cache 320M, Turbo, HT (350W) DDR5-5600 338-CPBP 1
Prosesor Tambahan Dipilih 379-BDCO 1
Konfigurasi Peninggi 2 330-BCHH 1
Penyalur Panas untuk Konfigurasi 2 CPU 412-BBCN 1
Performa yang Dioptimalkan 370-AAIP 1
RDIMM 5600 MT/dtk 370-BBRX 1
C30, Tanpa RAID untuk sasis NVME 780-BCDO 1
Tanpa Pengontrol 405-AACD 1
Setelan BIOS Performa 384-BBBL 1
Mode Booting BIOS UEFI dengan Partisi GPT 800-BBDM 1
Kipas Performa Sangat Tinggi x6 750-ADGJ 1
3+3 FTR (GPU Power Brake Diaktifkan), PSU Hot-Plug, 2800W MM HLAC (200-240Vac) Titanium, Konektor C22 450-AMMN 1
XE9680 System Motherboard, MX, MLK 338-CPWL 1
Bezel LCD 2U PowerEdge 325-BETK 1
Rakitan GPU NVIDIA HGX H200 8-GPU SXM 141 GB 700 W 490-BKHF 1
Kartu pengontrol BOSS-N1 + dengan 2 FIPS M.2 960 GB (RAID 1) 403-BCVH 1
Kabel BOSS XE9680 470-AFNO 1
Tidak ada kartu NIC mezzanine OCP 3.0 412-AASK 1
Tidak Ada Sistem Operasi, Tidak Ada Partisi Utilitas 611-BBBG 1
iDRAC9, Datacenter 16G 528-CTID 1
Lisensi iDRAC Secure Enterprise Key Manager 2.0 634-BZIL 1
Verifikasi Komponen Aman 528-COYT 1
iDRAC,Sandi yang Dibuat Pabrik 379-BCSF 1
Modul Layanan iDRAC (ISM), TIDAK Terinstal 379-BCQX 1
iDRAC Group Manager, Dinonaktifkan 379-BCQY 1
XE9680 Rack Rail Cable Management Arm 770-BEPB 1
XE9680 Sliding Ready Rail (B28) 770-BEPC 1
PowerEdge XE9680, Pengiriman 340-DDBX 1
Penanda CE PowerEdge XE9680, Tanpa Penanda CCC 389-EFKE 1
XE9680 Shipping Material 343-BBXC 1
Dukungan Pengelolaan Program Perusahaan 973-3700 1
Basic Next Business Day 36 Bulan 709-BFTF 1
TERBATAS:ProSupport One Data Center and Next Business Day Onsite Service Vol Low Ext, 24 Month(s) 199-BTKS 1
TERBATAS:ProSupport One Data Center and Next Business Day Onsite Service Vol Low Init, 36 Month(s) 199-BTKT 1
Keep Your Hard Drive For Enterprise, 60 Month(s) 711-BCXN 1
ProDeploy Plus PowerEdge XE Series 5U6U 683-BDSB 1
Penerapan Infrastruktur yang Dipilih 701-6538 1
RDIMM 128 GB, 5600 MT/s, Quad Rank 370-BBQY 16
800G Data Center NVMe Mixed Use AG Drive U2 Gen4 dengan operator 400-BRPJ 1
C20 ke C21, Gaya PDU, 16 AMP, 2,4 Meter, Kabel Daya 450-AGXK 6
Broadcom 5720 Dual Port 1GbE LOM 540-BDKD 1
Adaptor Jaringan QSFP56 100GbE Dual Port Mellanox ConnectX-6 DX, Tinggi Penuh 540-BCXO 2

Ukuran dan berat

Setiap mesin bersertifikasi Google memiliki tinggi 6U dan dimensi berikut:

  • Tinggi: 263,2 mm (10,36")
  • Lebar: 482,0 mm (18,97")
  • Tebal: 1008,77 mm (39,71") termasuk bezel depan

Setiap mesin bersertifikasi Google memiliki berat 113,3 kg (249,78 lbs).

Daya dan pendingin

Setiap mesin bersertifikasi Google memiliki spesifikasi listrik berikut:

  • Voltase: 100 V hingga 240 V AC, 50/60 Hz
  • Daya: Maksimum 11.000 W

Fasilitas Anda harus memiliki pendinginan yang memadai untuk mendukung satu (1) mesin bersertifikasi Google untuk setiap deployment Gemini di API yang terhubung ke GDC.

Jaringan

Bagian ini menjelaskan persyaratan jaringan untuk men-deploy Gemini di API yang terhubung ke GDC. Selain mesin bersertifikasi Google yang terhubung ke API Gemini di GDC, Anda harus menyediakan mesin lokal Anda sendiri, seperti laptop, untuk digunakan selama aktivasi saja. Ini adalah Turn-up machine dalam Gambar 1.

Konektivitas jaringan

Gambar 1 mengilustrasikan jaringan API yang terhubung dengan Gemini di GDC.

Gambar 1. Gemini di GDC terhubung API di jaringan Distributed Cloud terhubung.
Gambar 1. Gemini di GDC terhubung API di jaringan Distributed Cloud terhubung.

Anda harus memenuhi persyaratan konektivitas jaringan berikut untuk men-deploy Gemini di API yang terhubung ke GDC:

  • Siapkan switch Top-of-Rack (ToR) yang mendukung konektivitas optik 100 gigabit Quad Small Form-factor Pluggable (QFSP).

  • Alokasikan minimal satu port optik QFSP 100 gigabit pada switch ToR per mesin bersertifikasi Google; namun, Google merekomendasikan pengalokasian dua port optik QFSP 100G per mesin untuk ketersediaan tinggi. Setiap port ini memerlukan kabel QSFP-100G-SR4-S.

  • Jika mengalokasikan dua port per komputer, hubungkan kedua port switch ToR ke adaptor jaringan Mellanox CX-6 yang sama di setiap komputer.

  • Koneksi internet dengan bandwidth minimum 1 Gbps downstream dan 100 Mbps upstream.

Buat koneksi jaringan berikut untuk setiap mesin bersertifikasi Google:

  • Hubungkan satu atau kedua port 100 gigabit QFSP pada adaptor jaringan Mellanox CX-6 di komputer ke switch ToR Anda. Port ini menangani traffic berkecepatan tinggi untuk Gemini di API GDC terhubung dan software Distributed Cloud terhubung.

  • Hubungkan port Dell Remote Access Controller (iDRAC) terintegrasi di komputer ke switch Layer 2 terpisah. Tindakan ini diperlukan untuk pengelolaan komputer.

  • Hanya untuk aktivasi:

    • Tetapkan alamat IP ke port iDRAC yang bukan bagian dari blok CIDR zona yang terhubung ke Distributed Cloud target.

    • Buat konektivitas jaringan antara iDRAC dan mesin yang akan diaktifkan seperti yang ditunjukkan pada Gambar 1.

Konfigurasi jaringan

Konfigurasi jaringan lokal Anda sebagai berikut untuk men-deploy Gemini di API yang terhubung ke GDC:

  • Alokasikan VLAN khusus tanpa tag yang dikonfigurasi dengan ukuran Unit Transmisi Maksimum (MTU) 1500 byte.
  • Alokasikan blok alamat CIDR IPv4 /26 pribadi untuk konektivitas workload.
  • Konfigurasi konektivitas northbound untuk VLAN menggunakan peering BGP; iklankan blok CIDR /26 yang ditetapkan ke jaringan upstream.
  • Sediakan VLAN dengan rute default ke jaringan upstream dan internet.
  • Server Dynamic Host Configuration Protocol (DHCP) yang dapat menetapkan alamat IPv4 ke mesin bersertifikasi Google untuk bootstrapping. Alamat dalam blok DHCP ini harus berupa bagian /29 terakhir dari blok alamat CIDR IPv4 konektivitas beban kerja.

Konfigurasi switch ToR

Konfigurasi switch ToR Anda sebagai berikut:

  • Aktifkan dukungan DHCPv4 dan DNS di port yang dialokasikan untuk Gemini di komputer API yang terhubung ke GDC.
  • Konfigurasi blok CIDR IPv4 /26 pribadi di VLAN khusus yang tidak diberi tag dengan MTU 1500 byte.
  • Alokasikan alamat IPv4 pertama dalam blok CIDR sebagai gateway jaringan.
  • Pastikan alamat IPv4 lainnya dalam blok CIDR tidak digunakan; Gemini di API yang terhubung ke GDC akan mengalokasikannya secara otomatis untuk fungsi, layanan, dan endpoint model lokal sistem.

Konfigurasi server DHCP

Konfigurasi server DHCP untuk Gemini di mesin API yang terhubung ke GDC sebagai berikut:

  • Server DHCP harus dapat dijangkau dari semua port switch ToR yang terhubung ke Gemini di mesin API yang terhubung ke GDC.
  • Cadangkan segmen /29 terakhir dari blok CIDR IPv4 /26 yang telah Anda alokasikan ke Gemini di mesin API yang terhubung ke GDC untuk penetapan DHCP dan konfigurasi server DHCP untuk menggunakan segmen /29 ini sebagai kumpulan alamat DHCP.

Konfigurasi firewall

Konfigurasi firewall lokal Anda untuk mengizinkan traffic API yang terhubung Gemini di GDC sebagai berikut:

Nama Alamat IP Sumber Alamat IP anycast tujuan Protokol Port
Bootstrap CIDR Zona GDCc (/26) 192.178.76.0/23 TCP 80
Pengelolaan terhubung GDC (TCP), layanan pengesahan, layanan pemeriksaan bacaan, download model CIDR Zona GDCc (/26) 216.239.{32,34,36,38}.223, 192.178.76.0/23 TCP 443
Pengelolaan terhubung GDC (gRPC, HTTPS) CIDR Zona GDCc (/26) 192.178.76.0/23 TCP 444
Pengelolaan GDC terhubung (QUIC) CIDR Zona GDCc (/26) 192.178.18.0/23 UDP 443
Domain Name Service (DNS) CIDR Zona GDCc (/26) DNS Google: 8.8.8.8, 8.8.4.4 TCP, UDP 53
Network Time Protocol (NTP) CIDR Zona GDCc (/26) Google NTP: 216.239.35.{0,4,8,12} UDP 123
Pengesahan jarak jauh Intel TDX CIDR Zona GDCc (/26) 4.255.75.174 TCP 443

Kunci API pengesahan jarak jauh Intel TDX

Untuk mengaktifkan pengesahan mesin virtual rahasia yang melayani endpoint API Gemini di GDC yang terhubung, Anda harus mendapatkan kunci API pengesahan jarak jauh Intel TDX dan memberikannya kepada Google. Untuk mendapatkan kunci API, selesaikan langkah-langkah di bagian ini.

  1. Buka halaman Intel® Provisioning Certification Service for ECDSA Attestation.

  2. Di bagian Get PCK Certificates, klik Subscribe.

  3. Ikuti petunjuk yang ditampilkan untuk membuat akun dan membuat langganan Intel® SGX Provisioning Certification Service.

  4. Di bagian Langganan Anda di akun Anda, temukan dan catat kunci API utama untuk langganan Intel® SGX Provisioning Certification Service Anda.

Informasi yang perlu diberikan kepada Google

Berikan informasi berikut kepada Google:

  1. Informasi kontak orang yang bertanggung jawab untuk mendapatkan dan men-deploy mesin bersertifikasi Google.

  2. Blok CIDR IPv4 /26 yang telah Anda alokasikan untuk mesin bersertifikasi Google.

  3. Kunci API primer dan sekunder untuk langganan Intel® SGX Provisioning Certification Service Anda.

  4. Tag layanan untuk mesin API yang terhubung ke Gemini di GDC. Untuk mengetahui petunjuknya, lihat Menemukan Kode Layanan Ekspres dan Tag Layanan.

  5. ID Keamanan Fisik (PSID) dari drive disk non-boot di mesin bersertifikasi Google.

  6. Project ID project Google Cloud yang menghosting zona yang terhubung ke Distributed Cloud untuk Gemini di API yang terhubung ke GDC.

Memvalidasi hardware tersertifikasi

Sebelum menjadwalkan kunjungan dari teknisi Google, Anda harus memvalidasi hardware bersertifikasi Anda sebagai berikut:

  1. Dapatkan image Docker validasi hardware dari perwakilan Google Anda.

  2. Instal atau boot langsung Ubuntu Linux di komputer bersertifikasi. Penginstalan ini hanya digunakan untuk tugas pra-peluncuran; Google akan menggantinya dengan software API yang terhubung dengan Gemini di GDC setelah pra-peluncuran selesai.

  3. Instal paket berikut:

  4. Muat image Docker validator hardware:

    docker load -i gdc_hw_validator.tar

  5. Tentukan blok CIDR zona Distributed Cloud terhubung:

    export IP_CIDR="ZONE_CIDR"

    Ganti ZONE_CIDR dengan blok CIDR zona.

  6. Jalankan skrip validasi hardware di komputer bersertifikasi sebagai root:

    docker run --rm -t --privileged -v "$(pwd)":/output -v /sys/fs/cgroup:/sys/fs/cgroup:rw \ 
  --cgroupns=host --network=host -v /lib/modules:/lib/modules:ro -v /dev:/dev \ 
  -e IP_CIDR="$IP_CIDR" gdc_hw_validator

  7. Berikan file JSON yang dihasilkan oleh skrip kepada perwakilan Google Anda.

Mengaktifkan API yang diperlukan

Anda harus mengaktifkan API berikut di target Google Cloud project:

  • aiplatform.googleapis.com
  • anthos.googleapis.com
  • anthosaudit.googleapis.com
  • anthosgke.googleapis.com
  • cloudresourcemanager.googleapis.com
  • connectgateway.googleapis.com
  • compute.googleapis.com
  • container.googleapis.com
  • edgecontainer.googleapis.com
  • gdchardwaremanagement.googleapis.com
  • gkeconnect.googleapis.com
  • gkehub.googleapis.com
  • gkeonprem.googleapis.com
  • iam.googleapis.com
  • iamcredentials.googleapis.com
  • kubernetesmetadata.googleapis.com
  • logging.googleapis.com
  • monitoring.googleapis.com
  • multiclustermetering.googleapis.com
  • opsconfigmonitoring.googleapis.com
  • oslogin.googleapis.com
  • serviceusage.googleapis.com
  • stackdriver.googleapis.com
  • storage.googleapis.com
  • sts.googleapis.com

Untuk mengetahui informasi tentang cara mengaktifkan API, lihat Mengaktifkan layanan.

Menyiapkan akun penagihan

Anda harus menyiapkan akun penagihan untuk project target seperti yang dijelaskan dalam Membuat akun Penagihan Cloud layanan mandiri baru. Google Cloud

Langkah berikutnya

Untuk mengaktifkan deployment API yang terhubung Gemini di GDC, lakukan hal berikut:

  1. Terima dan instal Gemini di hardware bersertifikasi API yang terhubung ke GDC di lokasi target Anda.

  2. Konfigurasi lingkungan API terhubung Gemini di GDC seperti yang dijelaskan sebelumnya dalam dokumen ini.

  3. Validasi hardware bersertifikasi seperti yang dijelaskan sebelumnya dalam dokumen ini.

  4. Berkonsultasilah dengan perwakilan Google Anda untuk menjadwalkan kunjungan dari teknisi Google.

  5. Selesaikan kunjungan teknisi Google untuk menginstal dan mengonfigurasi software API yang terhubung dengan Gemini di GDC.

  6. Selesaikan langkah-langkah di Membuat dan mengelola endpoint.