Bevor Sie die Gemini on Google Distributed Cloud Connected API bestellen, müssen Sie die in diesem Dokument beschriebenen Installationsanforderungen erfüllen. Weitere Informationen finden Sie unter Support.
Zertifizierte Hardware
Bevor Sie Gemini über die GDC-verbundene API bestellen können, müssen Sie zertifizierte Hardware mit der in diesem Abschnitt beschriebenen Konfiguration erwerben. Diese Konfiguration gilt für einen einzelnen Google-zertifizierten Computer.
| Element | Dell-Artikelnummer | Menge |
|---|---|---|
| PowerEdge XE9680, DSS RESTRICTED | 210-BHYV | 1 |
| 2,5-Zoll-Gehäuse | 379-BDTF | 1 |
| Trusted Platform Module 2.0 V3 | 461-AAIG | 1 |
| XE9680 6U-Gehäuse mit 8 GPUs und 8 × 2,5 NVMe | 321-BIEK | 1 |
| Intel Xeon Platinum 8592+, 1,9 GHz, 64 Cores/128 Threads, 20 GT/s, 320 MB Cache, Turbo, HT (350 W) DDR5-5600 | 338-CPBP | 1 |
| Intel Xeon Platinum 8592+, 1,9 GHz, 64 Cores/128 Threads, 20 GT/s, 320 MB Cache, Turbo, HT (350 W) DDR5-5600 | 338-CPBP | 1 |
| Zusätzlicher Prozessor ausgewählt | 379-BDCO | 1 |
| Riser-Konfiguration 2 | 330-BCHH | 1 |
| Kühlkörper für 2 CPUs | 412-BBCN | 1 |
| Leistungsoptimiert | 370-AAIP | 1 |
| RDIMMs mit 5600 MT/s | 370-BBRX | 1 |
| C30, kein RAID für NVME-Gehäuse | 780-BCDO | 1 |
| Kein Controller | 405-AACD | 1 |
| BIOS-Einstellungen für die Leistung | 384-BBBL | 1 |
| UEFI-BIOS-Bootmodus mit GPT-Partition | 800-BBDM | 1 |
| Lüfter mit sehr hoher Leistung × 6 | 750-ADGJ | 1 |
| 3+3 FTR (GPU Power Brake Enabled), Hot-Plug-Netzteil, 2800 W MM HLAC (200–240 V AC) Titanium, C22-Anschluss | 450-AMMN | 1 |
| XE9680-System-Motherboard, MX, MLK | 338-CPWL | 1 |
| PowerEdge 2U-LCD-Blende | 325-BETK | 1 |
| NVIDIA HGX H200-GPU-Baugruppe mit 8 GPUs, SXM, 141 GB, 700 W | 490-BKHF | 1 |
| BOSS-N1-Controllerkarte + mit 2 FIPS M.2 960 GB (RAID 1) | 403-BCVH | 1 |
| XE9680 BOSS-Kabel | 470-AFNO | 1 |
| Keine OCP 3.0-Mezzanine-NIC-Karte | 412-AASK | 1 |
| Kein Betriebssystem, keine Dienstprogrammpartition | 611-BBBG | 1 |
| iDRAC9, Datacenter 16G | 528-CTID | 1 |
| iDRAC Secure Enterprise Key Manager-Lizenz 2.0 | 634-BZIL | 1 |
| Überprüfung gesicherter Komponenten | 528-COYT | 1 |
| iDRAC,vom Werk generiertes Passwort | 379-BCSF | 1 |
| iDRAC Service Module (ISM) NICHT installiert | 379-BCQX | 1 |
| iDRAC Group Manager, deaktiviert | 379-BCQY | 1 |
| XE9680 – Kabelmanagementarm für Rack-Schienen | 770-BEPB | 1 |
| XE9680 Sliding Ready Rail (B28) | 770-BEPC | 1 |
| PowerEdge XE9680, Versand | 340-DDBX | 1 |
| PowerEdge XE9680 – CE‑Kennzeichnung, keine CCC‑Kennzeichnung | 389-EFKE | 1 |
| Versandmaterial für XE9680 | 343-BBXC | 1 |
| Support für die Unternehmensprogrammverwaltung | 973-3700 | 1 |
| Basic Next Business Day 36 Monate | 709-BFTF | 1 |
| RESTRICTED:ProSupport One Data Center and Next Business Day Onsite Service Vol Low Ext, 24 Month(s) | 199-BTKS | 1 |
| RESTRICTED:ProSupport One Data Center and Next Business Day Onsite Service Vol Low Init, 36 Month(s) | 199-BTKT | 1 |
| Festplatte für Enterprise behalten, 60 Monate | 711-BCXN | 1 |
| ProDeploy Plus PowerEdge XE Series 5U6U | 683-BDSB | 1 |
| Infrastrukturbereitstellung ausgewählt | 701-6538 | 1 |
| 128 GB RDIMM, 5600 MT/s, Quad Rank | 370-BBQY | 16 |
| 800‑GB-NVMe-AG-Laufwerk für Rechenzentren, gemischte Nutzung, U2 Gen4 mit Carrier | 400-BRPJ | 1 |
| C20 auf C21, PDU-Ausführung, 16 A, 2,4 m, Stromkabel | 450-AGXK | 6 |
| Broadcom 5720 Dual Port 1GbE LOM | 540-BDKD | 1 |
| Mellanox ConnectX-6 DX Dual Port 100GbE QSFP56-Netzwerkadapter, volle Höhe | 540-BCXO | 2 |
Größe und Gewicht
Jede von Google zertifizierte Maschine hat eine Höhe von 6 HE und die folgenden Abmessungen:
- Höhe: 263,2 mm (10,36 Zoll)
- Breite: 482,0 mm (18,97 Zoll)
- Tiefe: 1008,77 mm (39,71 Zoll) einschließlich Frontblende
Jede von Google zertifizierte Maschine wiegt 113,3 kg.
Stromversorgung und Kühlung
Jeder von Google zertifizierte Computer hat die folgenden elektrischen Spezifikationen:
- Spannung:100 bis 240 V AC, 50/60 Hz
- Leistung:maximal 11.000 W
Ihre Einrichtung muss über eine ausreichende Kühlung verfügen, um eine (1) Google-zertifizierte Maschine für jede Bereitstellung von Gemini auf der GDC-verbundenen API zu unterstützen.
Netzwerk
In diesem Abschnitt werden die Netzwerkanforderungen für die Bereitstellung von Gemini in der GDC-verbundenen API beschrieben.
Netzwerkverbindung
Abbildung 1 veranschaulicht die API-Vernetzung von Gemini auf GDC.
Sie müssen die folgenden Anforderungen an die Netzwerkverbindung erfüllen, um Gemini in einer API mit GDC-Verbindung bereitzustellen:
Bereiten Sie einen ToR-Switch (Top-of-Rack) vor, der optische QSFP-Verbindungen (Quad Small Form-factor Pluggable) mit 100 Gigabit unterstützt.
Weisen Sie dem ToR-Switch pro von Google zertifizierter Maschine mindestens einen optischen QFSP-Port mit 100 Gigabit zu. Google empfiehlt jedoch, pro Maschine zwei optische QFSP-Ports mit 100 Gigabit für Hochverfügbarkeit zuzuweisen. Für jeden dieser Ports ist eine QSFP-100G-SR4-S-Verkabelung erforderlich.
Wenn Sie zwei Ports pro Computer zuweisen, verbinden Sie beide ToR-Switch-Ports auf jedem Computer mit demselben Mellanox CX-6-Netzwerkadapter.
Eine Internetverbindung mit einer Mindestbandbreite von 1 Gbit/s Downstream und 100 Mbit/s Upstream.
Stellen Sie für jede Google-zertifizierte Maschine die folgenden Netzwerkverbindungen her:
Verbinden Sie einen oder beide QFSP‑100‑Gigabit-Ports des Mellanox CX‑6-Netzwerkadapters auf dem Computer mit Ihrem ToR-Switch. Über diese Ports wird der High-Speed-Traffic für die API von Gemini on GDC Connected und die Software von Distributed Cloud Connected abgewickelt.
Verbinden Sie den iDRAC-Port (Integrated Dell Remote Access Controller) des Computers mit einem separaten Layer-2-Switch. Dies ist für die Geräteverwaltung erforderlich.
Verbinden Sie den Managementswitch und den ToR-Switch auf Layer 2.
Netzwerkkonfiguration
Konfigurieren Sie Ihr lokales Netzwerk so, um Gemini in der GDC-verbundenen API bereitzustellen:
- Weisen Sie ein dediziertes untagged VLAN mit einer MTU-Größe (Maximum Transmission Unit) von 1.500 Byte zu.
- Weisen Sie einen privaten /26-IPv4-CIDR-Adressblock für die Arbeitslastverbindung zu.
- Konfigurieren Sie die Upstream-Verbindung für das VLAN mit BGP-Peering und bewerben Sie den zugewiesenen /26-CIDR-Block im Upstream-Netzwerk.
- Stellen Sie das VLAN mit einer Standardroute zum Upstream-Netzwerk und zum Internet bereit.
- Ein DHCP-Server (Dynamic Host Configuration Protocol), der den Google-zertifizierten Maschinen IPv4-Adressen für das Bootstrapping zuweisen kann. Die Adressen in diesem DHCP-Block müssen der letzte /29-Abschnitt des IPv4-CIDR-Adressblocks für die Workload-Konnektivität sein.
Konfiguration des ToR-Switches
Konfigurieren Sie Ihren ToR-Switch so:
- Aktivieren Sie die DHCPv4- und DNS-Unterstützung für die Ports, die Gemini auf API-Maschinen mit GDC-Verbindung zugewiesen sind.
- Konfigurieren Sie einen privaten /26-IPv4-CIDR-Block im dedizierten, nicht getaggten VLAN mit einer MTU von 1.500 Byte.
- Weisen Sie die erste IPv4-Adresse im CIDR-Block als Netzwerk-Gateway zu.
- Achten Sie darauf, dass die restlichen IPv4-Adressen im CIDR-Block frei sind. Gemini on GDC connected API weist sie automatisch für Systemfunktionen, Dienste und lokale Modellendpunkte zu.
DHCP-Serverkonfiguration
Konfigurieren Sie den DHCP-Server für Gemini auf GDC-verbundenen API-Computern so:
- Der DHCP-Server muss über alle ToR-Switch-Ports erreichbar sein, die mit Gemini auf GDC-API-Maschinen verbunden sind.
- Reservieren Sie das letzte /29-Segment des /26-IPv4-CIDR-Blocks, den Sie Gemini auf GDC-verbundenen API-Maschinen zugewiesen haben, für DHCP-Zuweisungen und konfigurieren Sie den DHCP-Server so, dass dieses /29-Segment als DHCP-Adresspool verwendet wird.
Firewallkonfiguration
Konfigurieren Sie Ihre lokale Firewall so, dass Gemini on GDC-Traffic über verbundene APIs wie folgt zugelassen wird:
| Name | Quell-IP-Adresse | Anycast-IP-Adresse des Ziels | Protokoll | Port |
|---|---|---|---|---|
| GDC Connected-Verwaltung (TCP), Attestierungsdienst, Rezitationsprüfdienst, Modelldownloads | GDCc-Zonen-CIDR (/26) | Google-IP-Bereiche | TCP | 443 |
| GDC Connected-Verwaltung (UDP) | GDCc-Zonen-CIDR (/26) | Google-IP-Bereiche | UDP | 443 |
| Domain Name Service (DNS) | GDCc-Zonen-CIDR (/26) | Google DNS: 8.8.8.8, 8.8.4.4 |
UDP | 53 |
| Network Time Protocol (NTP) | GDCc-Zonen-CIDR (/26) | Google NTP: 216.239.35.{0,4,8,12} |
UDP | 123 |
| Remote-Attestierung für Intel TDX | GDCc-Zonen-CIDR (/26) | 4.255.75.174/32 |
TCP | 443 |
API-Schlüssel für die Intel TDX-Remote-Attestierung
Wenn Sie die Attestierung der vertraulichen virtuellen Maschinen aktivieren möchten, die Ihre mit Gemini on GDC verbundenen API-Endpunkte bereitstellen, müssen Sie einen API-Schlüssel für die Intel TDX-Remote-Attestierung abrufen und Google zur Verfügung stellen. Führen Sie die Schritte in diesem Abschnitt aus, um den API-Schlüssel zu erhalten.
Rufen Sie die Seite Intel® Provisioning Certification Service for ECDSA Attestation auf.
Klicken Sie im Abschnitt PCK-Zertifikate abrufen auf Abonnieren.
Folgen Sie der angezeigten Anleitung, um ein Konto zu erstellen und ein Abonnement für den Intel® SGX Provisioning Certification Service einzurichten.
Suchen Sie im Abschnitt Meine Abos Ihres Kontos nach dem primären API-Schlüssel für Ihr Intel® SGX Provisioning Certification Service-Abo und notieren Sie ihn.
An Google zu übermittelnde Informationen
Geben Sie die folgenden Informationen an Google weiter:
Kontaktdaten einer Person, die für die Beschaffung und Bereitstellung der Google-zertifizierten Geräte verantwortlich ist.
Der /26 IPv4-CIDR-Block, den Sie für Ihre Google-zertifizierten Geräte zugewiesen haben.
Die primären und sekundären API-Schlüssel für Ihr Intel® SGX Provisioning Certification Service-Abo.
Die Service-Tags für Ihre mit Gemini on GDC verbundenen API-Maschinen. Eine Anleitung finden Sie unter Express Service Code und Service-Tag finden.
Die PSIDs (Physical Security IDentifiers) von Nicht-Boot-Festplattenlaufwerken auf den von Google zertifizierten Geräten.
Die Projekt-ID des Google Cloud -Projekts, in dem Ihre Distributed Cloud Connected Zone für Gemini on GDC Connected API gehostet wird.
Zertifizierte Hardware validieren
Bevor Sie einen Termin mit einem Google-Techniker vereinbaren, müssen Sie Ihre zertifizierte Hardware so validieren:
Fordern Sie das Hardwarevalidierungsskript bei Ihrem Google-Ansprechpartner an.
Installieren Sie Ubuntu Linux auf dem zertifizierten Computer oder starten Sie es als Live-Boot.
Führen Sie das Hardwarevalidierungsskript auf dem zertifizierten Gerät aus.
Stellen Sie Ihrem Google-Ansprechpartner die Ausgabe des Scripts zur Verfügung.
Nächste Schritte
So stellen Sie Ihre mit Gemini on GDC verbundene API-Bereitstellung online:
Sie erhalten und installieren die für die Gemini on GDC-API zertifizierte Hardware an Ihrem Zielort.
Konfigurieren Sie Ihre Gemini on GDC-Umgebung mit verbundener API wie zuvor in diesem Dokument beschrieben.
Validieren Sie die zertifizierte Hardware wie weiter oben in diesem Dokument beschrieben.
Wenden Sie sich an Ihren Google-Ansprechpartner, um einen Termin mit einem Google-Techniker zu vereinbaren.
Schließen Sie den Besuch des Google-Technikers ab, um die Software für die Gemini on GDC-Verbindungs-API zu installieren und zu konfigurieren.
Führen Sie die Schritte unter Endpunkte erstellen und verwalten aus.