Google Cloud Managed Lustre

„Unsere Fähigkeit, Unternehmen dabei zu unterstützen, Deepfake-Audio, ‑Video und ‑Bilder zu erkennen und zu blockieren, hängt von der Qualität unserer Modelle ab. Managed Lustre ist entscheidend für unser erfolgreiches Modelltraining mit unseren dynamischen Datasets. Wir können unsere GPUs voll auslasten. Das läuft sechsmal schneller als die anderen Speicherlösungen, die wir getestet haben.“

Hier finden Sie die Erfolgsgeschichte.

^{—Zohaib Ahmed, CEO von Resemble AI}

„Mit Managed Lustre können wir das KI-Modelltraining für AFEELA Intelligent Drive im Vergleich zu anderen Google Cloud-Lösungen um das Dreifache skalieren.“

^{—Motoi Kataoka, Senior Manager, AI and Data Analytics Platform, Sony Honda Mobility Inc.}

„Durch die Einbindung von Managed Lustre in VTC (Vertex Training Clusters) konnte Salesforce AI Research die typischen Onboarding-Engpässe beseitigen, sodass wir mit der Inferenz-Arbeitslast sofort loslegen konnten. Dieser Speicher mit hohem Durchsatz und niedriger Latenz hält unsere B200-GPUs voll ausgelastet und sorgt für eine deutliche Leistungssteigerung bei der Inferenz von Large Language Models im Vergleich zur H200. Für unsere Kundenunternehmen bedeutet das schnellere, responsivere KI-Agenten, die komplexe Schlussfolgerungen mit einem Bruchteil der bisherigen Latenzzeit verarbeiten können.“

^{—Lavanya Karanam, Principal Software Engineer, Salesforce}

„Der Wechsel zu Google Cloud hat das Tempo meiner Forschung grundlegend verändert. Ich trainiere neuronale Netzwerke im großen Maßstab mit riesigen Datasets, darunter den gesamten Common Corpus, den das Clusterteam hochgeladen und mir direkt im Cluster zugänglich gemacht hat. Das vollständige Dataset wäre mit keiner anderen Infrastruktur, auf die ich praktisch Zugriff hatte, zu erreichen gewesen. Mit Managed Lustre ist die Datenerfassung, die zuvor einen Engpass in meiner Pipeline darstellte, jetzt in Sekundenschnelle abgeschlossen. Meine GPUs werden konstant genutzt und ich muss viel weniger Zeit in der Warteschlange verbringen. Das Ergebnis ist eine messbar schnellere Zeit bis zum Abschluss bei jedem Experiment, das ich durchführe.“

 ^{Christopher J. Lynch, Ph.D., Research Assistant Professor, Virginia Modeling, Analysis, & Simulation Center (VMASC), Old Dominion University}

„Mit Managed Lustre haben wir mindestens 50 % der Unterbrechungen bei Trainingsversuchen für mathematische Reasoning-Modelle beseitigt, sodass wir doppelt so viele Versuche durchführen können. Wir haben den Dienst als regionalen Cache für 'heiße' Checkpoints eingebunden und so einen schnelleren, zuverlässigeren und bequemeren Start sowie eine bessere Checkpoint-Persistenz erreicht. In unserem Workflow schreiben Trainingsjobs Checkpoints, die nachfolgende Inferenz- oder neue Trainingsjobs in einem Offlinesystem verarbeiten. Dadurch wird die Datenabrufgeschwindigkeit um das bis zu 15-Fache erhöht und die Startzeit um mehr als 50 % verkürzt. Die Möglichkeit, Lustre als zuverlässiges, eingebundenes Dateisystem mit solider Leistung zu nutzen, hat es unserem Forschungsteam ermöglicht, bei Experimenten mit neuen Trainingstechnologien unabhängiger zu sein. So können wir problemlos doppelt so viele Iterationszyklen durchführen und gleichzeitig eine höhere Leistung erzielen, als wenn wir dieselben Daten aus anderen Speicheroptionen abrufen würden.“

^{—Riley Patterson, Harmonic, Infrastructure Lead}