GPU-Arbeitslasten in Autopilot bereitstellen

Hardwarebeschleuniger (GPUs) in GKE Autopilot-Arbeitslasten anfordern

LLM mit mehreren GPUs in GKE bereitstellen

Erfahren Sie, wie Sie Llama 2 70B oder Falcon 40B mit mehreren NVIDIA L4-GPUs mit GKE bereitstellen.

LLM mithilfe von mehrere Hosts in GKE mit Saxml bereitstellen

Erfahren Sie, wie Sie Falcon 7b, Llama2 7b, Falcon 40b oder Llama2 70b mit dem Ray-Framework in GKE bereitstellen.

Erste Schritte mit Ray in GKE

Erfahren Sie, wie Sie Ray on GKE problemlos verwenden, indem Sie eine Arbeitslast in einem Ray-Cluster ausführen.

LLM auf L4-GPUs mit Ray bereitstellen

Informationen zum Bereitstellen von Falcon 7b, Llama2 7b, Falcon 40b oder Llama2 70b mit dem Ray-Framework in GKE

TPU-Multislice-Arbeitslasten mit JobSet und Kueue orchestrieren

Erfahren Sie, wie Sie eine Jax-Arbeitslast auf mehreren TPU-Slices in GKE mit JobSet und Kueue orchestrieren.

GPU-Arbeitslasten in GKE mit NVIDIA Data Center GPU Manager (DCGM) überwachen

Erfahren Sie, wie Sie mit NVIDIA Data Center GPU Manager (DCGM) GPU-Arbeitslasten in GKE beobachten.

Kurzanleitung: Modell mit GPUs in GKE Standard-Clustern trainieren

In dieser Kurzanleitung wird gezeigt, wie Sie ein Trainingsmodell mit GPUs in GKE bereitstellen und die Vorhersagen in Cloud Storage speichern.

Umfangreiches maschinelles Lernen in GKE ausführen

In diesem Video wird gezeigt, wie GKE häufige Probleme beim Trainieren großer KI-Modelle löst. Außerdem werden Best Practices für das Trainieren und Bereitstellen umfangreicher Modelle für maschinelles Lernen in GKE erläutert.

TensorFlow in GKE Autopilot mit GPU-Beschleunigung

In diesem Blogpost finden Sie eine detaillierte Anleitung zum Erstellen, Ausführen und Bereinigen eines Tensorflow-fähigen Jupiter-Notebooks.

Jobwarteschlangensystem mit Kontingentfreigabe zwischen Namespaces in GKE implementieren

In dieser Anleitung wird mit Kueue gezeigt, wie Sie ein Jobwarteschlangensystem implementieren und die Freigabe von Arbeitslastressourcen und Kontingenten zwischen verschiedenen Namespaces in GKE konfigurieren.

Erweiterte Planung für KI/ML mit Ray und Kueue

Ray-Anwendungen in GKE mit KubeRay und Kueue orchestrieren.

Ray in Google Kubernetes Engine schützen

Sicherheitserkenntnisse und Härtungstechniken zum Trainieren von KI/ML-Arbeitslasten mit Ray on GKE anwenden.

Speicher für KI- und ML-Arbeitslasten in Google Cloud entwerfen

Wählen Sie die beste Kombination von Speicheroptionen für KI- und ML-Arbeitslasten in Google Cloud aus.

Die automatische Treiberinstallation vereinfacht die Verwendung von NVIDIA-GPUs in GKE

Nvidia-GPU-Treiber automatisch in GKE installieren.

Generative KI mit dem NVIDIA NeMo-Framework in GKE beschleunigen

Trainieren Sie generative KI-Modelle mit dem GKE- und NVIDIA NeMo-Framework.

Vorteile von GKE für Ray KI-Arbeitslasten

Verbessern Sie mit GKE für Ray-Arbeitslasten Skalierbarkeit, Kosteneffizienz, Fehlertoleranz, Isolation und Übertragbarkeit.

Diagramm: KI in vollständig verwaltetem GKE ausführen – jetzt mit neuen Computing-Optionen, Preisen und Ressourcenreservierungen

Profitieren Sie mit GKE Autopilot von verbessertem GPU-Support, Leistung und niedrigeren Preisen für KI/ML-Arbeitslasten.

Wie SEEN die Ausgabe um das 89-Fache skalieren und die GPU-Kosten mithilfe von GKE um 66 % senken konnte

Start-up skaliert die personalisierte Videoausgabe mit GKE.

Wie Let's Enhance NVIDIA AI und GKE für die KI-basierte Bearbeitung von Fotos nutzt

Innovative KI zum Optimieren von Bildern mit NVIDIA-GPUs und GKE

Wie die GPU-Freigabe von GKE den Wissenschaftlern bei der Suche nach Neutrinos hilft

Die Freigabe von GKE-GPUs hilft Wissenschaftlern bei der Suche nach Neutrinos.

GPUs mit Zeitfreigabe in GKE

Hier erfahren Sie, wie die GPU-Zeitfreigabe von GKE mehreren Container die gemeinsame Nutzung einer einzelnen physischen GPU ermöglicht und so die Auslastung verbessert.

GPUs mit mehreren Instanzen in GKE

Hier erfahren Sie, wie Sie mit GPUs mit mehreren Instanzen in GKE Ihre GPU-Investitionen besser nutzen können.

Wie Etsy die ML-Plattform mit GKE neu gestaltet hat

Etsy nutzt maschinelles Lernen (ML), um Millionen von Käufern auf der ganzen Welt personalisierte Angebote zu bieten.

Wie Spotify gemeinsam mit Ray und GKE ML-Innovationen einsetzt

So transformiert Ray die ML-Entwicklung bei Spotify.

Wie Ordaos Bio Generative AI in GKE nutzt

Ordaos Bio, einer der führenden KI-Beschleuniger für die biomedizinische Forschung und Entdeckung, sucht nach Lösungen für neue Impfstoffe in der Onkologie und bei chronischen Entzündungen.

GKE eines wachsenden Start-ups, das auf ML basiert

Moloco, ein Start-up-Unternehmen aus dem Silicon Valley, nutzte die Möglichkeiten von GKE und Tensor Flow Enterprise, um seine ML-Infrastruktur zu optimieren.

Ray in GKE

Verwenden Sie diese Terraform-Vorlage, um Ray on GKE auszuführen.

Ray in GKE mit TPUs einrichten

Verwenden Sie dieses Terraform-Beispiel, um Ray in einem GKE-Cluster mit einer 2x2x1-Topologie bereitzustellen.

ML-Trainingsarbeitslasten in GKE mit der JobSet API

Verteilte Trainingsarbeitslasten für maschinelles Lernen in GKE mit der JobSet API ausführen

JAX "Hello World" in GKE

Führen Sie ein einfaches JAX-Programm mit NVIDIA-GPUs A100-80 GB auf einem GKE-Cluster aus.