Sebelum memesan Gemini di API yang terhubung ke Google Distributed Cloud, Anda harus memenuhi persyaratan penginstalan yang dijelaskan dalam dokumen ini. Untuk informasi tambahan, lihat Mendapatkan Dukungan.
Hardware bersertifikasi
Sebelum memesan Gemini di GDC connected API, Anda harus mendapatkan hardware bersertifikasi yang sesuai dengan konfigurasi persis seperti yang dijelaskan di bagian ini. Konfigurasi ini ditujukan untuk satu mesin bersertifikasi Google.
| Item | SKU Dell | Kuantitas |
|---|---|---|
| PowerEdge XE9680, DSS RESTRICTED | 210-BHYV | 1 |
| Sasis 2,5 | 379-BDTF | 1 |
| Trusted Platform Module 2.0 V3 | 461-AAIG | 1 |
| Sasis XE9680 6U dengan 8 GPU 8 x 2,5 NVMe Saja | 321-BIEK | 1 |
| Intel Xeon Platinum 8592+ 1,9G, 64C/128T, 20GT/s, Cache 320M, Turbo, HT (350W) DDR5-5600 | 338-CPBP | 1 |
| Intel Xeon Platinum 8592+ 1,9G, 64C/128T, 20GT/s, Cache 320M, Turbo, HT (350W) DDR5-5600 | 338-CPBP | 1 |
| Pemroses Tambahan Dipilih | 379-BDCO | 1 |
| Konfigurasi Peninggi 2 | 330-BCHH | 1 |
| Penyalur Panas untuk Konfigurasi 2 CPU | 412-BBCN | 1 |
| Performa yang Dioptimalkan | 370-AAIP | 1 |
| RDIMM 5600 MT/dtk | 370-BBRX | 1 |
| C30, Tanpa RAID untuk sasis NVME | 780-BCDO | 1 |
| Tanpa Pengontrol | 405-AACD | 1 |
| Setelan BIOS Performa | 384-BBBL | 1 |
| Mode Booting BIOS UEFI dengan Partisi GPT | 800-BBDM | 1 |
| Kipas Performa Sangat Tinggi x6 | 750-ADGJ | 1 |
| 3+3 FTR (GPU Power Brake Diaktifkan), PSU Hot-Plug, 2800W MM HLAC (200-240Vac) Titanium, Konektor C22 | 450-AMMN | 1 |
| XE9680 System Motherboard, MX, MLK | 338-CPWL | 1 |
| Bezel LCD 2U PowerEdge | 325-BETK | 1 |
| Rakitan GPU NVIDIA HGX H200 8-GPU SXM 141 GB 700 W | 490-BKHF | 1 |
| Kartu pengontrol BOSS-N1 + dengan 2 FIPS M.2 960 GB (RAID 1) | 403-BCVH | 1 |
| Kabel BOSS XE9680 | 470-AFNO | 1 |
| Tidak ada kartu NIC mezzanine OCP 3.0 | 412-AASK | 1 |
| Tidak Ada Sistem Operasi, Tidak Ada Partisi Utilitas | 611-BBBG | 1 |
| iDRAC9, Datacenter 16G | 528-CTID | 1 |
| Lisensi iDRAC Secure Enterprise Key Manager 2.0 | 634-BZIL | 1 |
| Verifikasi Komponen Aman | 528-COYT | 1 |
| iDRAC,Sandi yang Dibuat Pabrik | 379-BCSF | 1 |
| Modul Layanan iDRAC (ISM), TIDAK Terinstal | 379-BCQX | 1 |
| iDRAC Group Manager, Dinonaktifkan | 379-BCQY | 1 |
| XE9680 Rack Rail Cable Management Arm | 770-BEPB | 1 |
| XE9680 Sliding Ready Rail (B28) | 770-BEPC | 1 |
| PowerEdge XE9680, Pengiriman | 340-DDBX | 1 |
| Penanda CE PowerEdge XE9680, Tanpa Penanda CCC | 389-EFKE | 1 |
| XE9680 Shipping Material | 343-BBXC | 1 |
| Dukungan Pengelolaan Program Perusahaan | 973-3700 | 1 |
| Basic Next Business Day 36 Bulan | 709-BFTF | 1 |
| TERBATAS:ProSupport One Data Center and Next Business Day Onsite Service Vol Low Ext, 24 Month(s) | 199-BTKS | 1 |
| TERBATAS:ProSupport One Data Center and Next Business Day Onsite Service Vol Low Init, 36 Month(s) | 199-BTKT | 1 |
| Keep Your Hard Drive For Enterprise, 60 Month(s) | 711-BCXN | 1 |
| ProDeploy Plus PowerEdge XE Series 5U6U | 683-BDSB | 1 |
| Penerapan Infrastruktur yang Dipilih | 701-6538 | 1 |
| RDIMM 128 GB, 5600 MT/s, Quad Rank | 370-BBQY | 16 |
| 800G Data Center NVMe Mixed Use AG Drive U2 Gen4 dengan operator | 400-BRPJ | 1 |
| C20 ke C21, Gaya PDU, 16 AMP, 2,4 Meter, Kabel Daya | 450-AGXK | 6 |
| Broadcom 5720 Dual Port 1GbE LOM | 540-BDKD | 1 |
| Adaptor Jaringan QSFP56 100GbE Dual Port Mellanox ConnectX-6 DX, Tinggi Penuh | 540-BCXO | 2 |
Ukuran dan berat
Setiap mesin bersertifikasi Google memiliki tinggi 6U dan dimensi berikut:
- Tinggi: 263,2 mm (10,36")
- Lebar: 482,0 mm (18,97")
- Tebal: 1008,77 mm (39,71") termasuk bezel depan
Setiap mesin bersertifikasi Google memiliki berat 113,3 kg (249,78 lbs).
Daya dan pendingin
Setiap mesin bersertifikasi Google memiliki spesifikasi listrik berikut:
- Voltase: 100 V hingga 240 V AC, 50/60 Hz
- Daya: Maksimum 11.000 W
Fasilitas Anda harus memiliki pendinginan yang memadai untuk mendukung satu (1) mesin bersertifikasi Google untuk setiap deployment Gemini di API yang terhubung ke GDC.
Jaringan
Bagian ini menjelaskan persyaratan jaringan untuk men-deploy Gemini di API yang terhubung ke GDC.
Konektivitas jaringan
Gambar 1 mengilustrasikan jaringan API yang terhubung dengan Gemini di GDC.
Anda harus memenuhi persyaratan konektivitas jaringan berikut untuk men-deploy Gemini di API yang terhubung ke GDC:
Siapkan switch Top-of-Rack (ToR) yang mendukung konektivitas optik 100 gigabit Quad Small Form-factor Pluggable (QFSP).
Alokasikan minimal satu port optik QFSP 100 gigabit pada switch ToR per mesin bersertifikasi Google; namun, Google merekomendasikan pengalokasian dua port optik QFSP 100G per mesin untuk ketersediaan tinggi. Setiap port ini memerlukan kabel QSFP-100G-SR4-S.
Jika mengalokasikan dua port per komputer, hubungkan kedua port switch ToR ke adaptor jaringan Mellanox CX-6 yang sama di setiap komputer.
Koneksi internet dengan bandwidth minimum 1 Gbps downstream dan 100 Mbps upstream.
Buat koneksi jaringan berikut untuk setiap mesin bersertifikasi Google:
Hubungkan satu atau kedua port 100 gigabit QFSP pada adaptor jaringan Mellanox CX-6 di komputer ke switch ToR Anda. Port ini menangani traffic berkecepatan tinggi untuk Gemini di API GDC terhubung dan software Distributed Cloud terhubung.
Hubungkan port Dell Remote Access Controller (iDRAC) terintegrasi di komputer ke switch Layer 2 terpisah. Tindakan ini diperlukan untuk pengelolaan komputer.
Hubungkan switch pengelolaan dan switch ToR di Lapisan 2.
Konfigurasi jaringan
Konfigurasi jaringan lokal Anda sebagai berikut untuk men-deploy Gemini di API yang terhubung ke GDC:
- Alokasikan VLAN khusus tanpa tag yang dikonfigurasi dengan ukuran Unit Transmisi Maksimum (MTU) 1500 byte.
- Alokasikan blok alamat CIDR IPv4 /26 pribadi untuk konektivitas workload.
- Konfigurasi konektivitas northbound untuk VLAN menggunakan peering BGP; iklankan blok CIDR /26 yang ditetapkan ke jaringan upstream.
- Sediakan VLAN dengan rute default ke jaringan upstream dan internet.
- Server Dynamic Host Configuration Protocol (DHCP) yang dapat menetapkan alamat IPv4 ke mesin bersertifikasi Google untuk bootstrapping. Alamat dalam blok DHCP ini harus berupa bagian /29 terakhir dari blok alamat CIDR IPv4 konektivitas beban kerja.
Konfigurasi switch ToR
Konfigurasi switch ToR Anda sebagai berikut:
- Aktifkan dukungan DHCPv4 dan DNS di port yang dialokasikan untuk Gemini di komputer API yang terhubung ke GDC.
- Konfigurasi blok CIDR IPv4 /26 pribadi di VLAN khusus yang tidak diberi tag dengan MTU 1500 byte.
- Alokasikan alamat IPv4 pertama dalam blok CIDR sebagai gateway jaringan.
- Pastikan alamat IPv4 lainnya dalam blok CIDR tidak digunakan; Gemini di GDC yang terhubung ke API akan mengalokasikannya secara otomatis untuk fungsi sistem, layanan, dan endpoint model lokal.
Konfigurasi server DHCP
Konfigurasi server DHCP untuk Gemini di mesin API yang terhubung ke GDC sebagai berikut:
- Server DHCP harus dapat dijangkau dari semua port switch ToR yang terhubung ke Gemini di mesin API yang terhubung ke GDC.
- Cadangkan segmen /29 terakhir dari blok CIDR IPv4 /26 yang telah Anda alokasikan ke Gemini di mesin API yang terhubung ke GDC untuk penetapan DHCP dan konfigurasi server DHCP untuk menggunakan segmen /29 ini sebagai kumpulan alamat DHCP.
Konfigurasi firewall
Konfigurasi firewall lokal Anda untuk mengizinkan traffic API yang terhubung Gemini di GDC sebagai berikut:
| Nama | Alamat IP Sumber | Alamat IP anycast tujuan | Protokol | Port |
|---|---|---|---|---|
| Pengelolaan terhubung GDC (TCP), layanan pengesahan, layanan pemeriksaan bacaan, download model | CIDR Zona GDCc (/26) | Rentang IP Google | TCP | 443 |
| Pengelolaan GDC terhubung (UDP) | CIDR Zona GDCc (/26) | Rentang IP Google | UDP | 443 |
| Domain Name Service (DNS) | CIDR Zona GDCc (/26) | DNS Google: 8.8.8.8, 8.8.4.4 |
UDP | 53 |
| Network Time Protocol (NTP) | CIDR Zona GDCc (/26) | Google NTP: 216.239.35.{0,4,8,12} |
UDP | 123 |
| Pengesahan jarak jauh Intel TDX | CIDR Zona GDCc (/26) | 4.255.75.174/32 |
TCP | 443 |
Kunci API pengesahan jarak jauh Intel TDX
Untuk mengaktifkan pengesahan mesin virtual rahasia yang melayani endpoint API Gemini di GDC yang terhubung, Anda harus mendapatkan kunci API pengesahan jarak jauh Intel TDX dan memberikannya kepada Google. Untuk mendapatkan kunci API, selesaikan langkah-langkah di bagian ini.
Buka halaman Intel® Provisioning Certification Service for ECDSA Attestation.
Di bagian Get PCK Certificates, klik Subscribe.
Ikuti petunjuk yang ditampilkan untuk membuat akun dan membuat langganan Intel® SGX Provisioning Certification Service.
Di bagian Langganan Anda di akun Anda, temukan dan catat kunci API utama untuk langganan Intel® SGX Provisioning Certification Service Anda.
Informasi yang perlu diberikan kepada Google
Berikan informasi berikut kepada Google:
Informasi kontak orang yang bertanggung jawab untuk mendapatkan dan men-deploy mesin bersertifikasi Google.
Blok CIDR IPv4 /26 yang telah Anda alokasikan untuk mesin bersertifikasi Google.
Kunci API primer dan sekunder untuk langganan Intel® SGX Provisioning Certification Service Anda.
Tag layanan untuk mesin API yang terhubung ke Gemini di GDC. Untuk mengetahui petunjuknya, lihat Menemukan Kode Layanan Ekspres dan Tag Layanan.
ID Keamanan Fisik (PSID) dari drive disk non-boot di mesin bersertifikasi Google.
Project ID project Google Cloud yang menghosting zona yang terhubung ke Distributed Cloud untuk Gemini di API yang terhubung ke GDC.
Memvalidasi hardware tersertifikasi
Sebelum menjadwalkan kunjungan dari teknisi Google, Anda harus memvalidasi hardware bersertifikasi Anda sebagai berikut:
Dapatkan skrip validasi hardware dari perwakilan Google Anda.
Instal atau boot langsung Ubuntu Linux di komputer bersertifikasi.
Jalankan skrip validasi hardware di komputer bersertifikasi.
Berikan output skrip kepada perwakilan Google Anda.
Langkah berikutnya
Untuk mengaktifkan deployment API Gemini di GDC Anda, lakukan hal berikut:
Terima dan instal Gemini di hardware bersertifikasi API yang terhubung ke GDC di lokasi target Anda.
Konfigurasi lingkungan API terhubung Gemini di GDC seperti yang dijelaskan sebelumnya dalam dokumen ini.
Validasi hardware bersertifikasi seperti yang dijelaskan sebelumnya dalam dokumen ini.
Berkonsultasilah dengan perwakilan Google Anda untuk menjadwalkan kunjungan dari teknisi Google.
Selesaikan kunjungan teknisi Google untuk menginstal dan mengonfigurasi software API yang terhubung dengan Gemini di GDC.
Selesaikan langkah-langkah di Membuat dan mengelola endpoint.