Cloud TPU
ML-Modelle schneller als je zuvor trainieren und ausführen
Mit KI von Google Cloud Unternehmen fördern
Das maschinelle Lernen (ML) hat in der Wirtschaft und Forschung Durchbrüche ermöglicht – von der Netzwerksicherheit bis hin zu medizinischen Diagnosen. Wir haben die Tensor Processing Unit (TPU) entwickelt, damit ähnlich weitreichende Fortschritte für jeden realisierbar sind. Die Cloud TPU ist eine speziell entwickelte anwendungsspezifische integrierte Schaltung (Application-Specific Integrated Circuit, ASIC) für ML-Arbeitslasten, auf der Google-Produkte wie Übersetzer, Fotos, die Google Suche, Assistant und Gmail basieren. Im Folgenden erfahren Sie, wie Sie mit der TPU und maschinellem Lernen besonders bei umfangreichen Projekten den Erfolg Ihres Unternehmens deutlich steigern.
Demo ansehen
ML-Leistung und -Benchmarks
Weitere Informationen über das Abschneiden von Cloud TPU im Vergleich zu anderen Beschleunigern finden Sie im Blog oder in den MLPerf-Benchmark-Ergebnissen.
Vorteile
Für KI in Google Cloud entwickelt
Cloud TPU wurde für hochmoderne Modelle des maschinellen Lernens in Verbindung mit KI-Diensten in Google Cloud entwickelt. Das eigens entwickelte Hochgeschwindigkeitsnetzwerk bietet über 100 PetaFLOPS Leistung in einem einzelnen Pod – ausreichend Rechenleistung, um Ihr Unternehmen zu transformieren oder den nächsten Durchbruch in der Forschung zu erzielen.
ML-Lösungen schneller iterieren
Das Training von Modellen für maschinelles Lernen ist mit dem Kompilieren von Code vergleichbar: Die Modelle müssen häufig aktualisiert werden, was so effizient wie möglich geschehen sollte. Wenn Anwendungen erstellt, bereitgestellt und optimiert werden, müssen die Modelle immer wieder neu trainiert werden. Dank der robusten Leistung und geringen Kosten eignet sich Cloud TPU sehr gut für ML-Teams, die schnelle und häufige Iterationen ihrer Lösungen anstreben.
Bewährte Modelle auf dem neuesten Stand der Technik
Sie können eigene ML-Lösungen für viele reale Anwendungsfälle erstellen. Sie brauchen nur ein von Google optimiertes Referenzmodell herunterzuladen und dieses mit Ihren Daten zu trainieren.
Cloud TPU-Angebot
Cloud TPU v2
Cloud TPU v3
Cloud TPU v2 Pod
Cloud TPU v3 Pod
Cloud TPU-Features
Modellbibliothek
Sie können sofort loslegen. Greifen Sie einfach auf unsere stetig wachsende Bibliothek optimierter Modelle für Cloud TPU zurück. Diese bieten optimierte Leistung, Treffsicherheit und Qualität bei der Bildklassifizierung, Objekterkennung, Sprachmodellierung, Spracherkennung und bei vielem mehr.
Cloud TPUs mit kundenspezifischen Maschinentypen verbinden
Sie können die Cloud TPUs mit kundenspezifischen VM-Typen der KI-Plattform Deep Learning VM Image verbinden, um so für Ihre Arbeitslasten eine optimale Balance zwischen Prozessorgeschwindigkeit, Arbeitsspeicher und leistungsfähigen Speicherressourcen herzustellen.
Vollständig auf die Google Cloud Platform abgestimmt
Cloud TPUs sowie Daten- und Analysedienste von Google Cloud sind vollständig auf andere Google Cloud Platform-Produkte wie Google Kubernetes Engine (GKE) abgestimmt. Wenn Sie also ML-Arbeitslasten auf Cloud TPUs ausführen, profitieren Sie von den branchenführenden Speicher-, Netzwerk- und Datenanalysetechnologien der GCP.
Cloud TPUs auf Abruf
Sparen Sie Geld und verwenden Sie Cloud TPUs auf Abruf für fehlertolerante ML-Arbeitslasten wie zum Beispiel lange Trainingsläufe mit Prüfpunkten oder Batchvorhersagen für große Datasets. Cloud TPUs auf Abruf sind 70 % günstiger als On-Demand-Instanzen. Damit wird ML erschwinglicher als je zuvor, von Ihren ersten Experimenten bis hin zu umfangreichen Hyperparameter-Suchen.
Unsere Kunden
Das Potenzial der Verwendung von Cloud TPU Pods zur Beschleunigung unserer Deep-Learning-Forschung ist ein großer Vorteil. Gleichzeitig können wir unsere Betriebskosten niedrig und die Komplexität gering halten. Wir brauchen derzeit etwas mehr als 24 Stunden, um Modelle in unserem lokalen GPU-Cluster zu trainieren. Je nach Größe des TPU-Pods werden dies künftig nur noch zwischen 7 Stunden und 15 Minuten sein.
Ben Mabey, Vice President, Engineering, bei Recursion Pharmaceuticals
Seitdem wir mit Google Cloud TPUs arbeiten, sind wir äußerst beeindruckt von deren Geschwindigkeit. Was sonst manchmal Tage dauerte, ist jetzt innerhalb weniger Stunden verfügbar. Dank Cloud TPUs kommen wir schneller voran, da die TPUs die neuesten Navigationsdaten aus unserem Fuhrpark und die aktuellsten algorithmischen Fortschritte aus der Forschung berücksichtigen.
Anantha Kancherla, Head of Software, Self-Driving Level 5, bei Lyft
Die Zusammenarbeit mit Google und der Zugriff auf TensorFlow Research Cloud TPUs ermöglichen die Erforschung neuer Techniken sowie Experimente in einem bisher unbekannten Ausmaß.
Athon Millane, Machine Learning and Research Lead bei Max Kelsen
Google Cloud TPUs sind ein Musterbeispiel für innovative, sich schnell weiterentwickelnde Deep-Learning-Technologie. Die Verlagerung von TensorFlow-Arbeitslasten in TPUs hat nach unseren Erkenntnissen zu großen Produktivitätssteigerungen geführt, denn die Programmierung neuer Modelle ist weniger komplex und auch das Training ist schneller erledigt.
Alfred Spector, CTO bei Two Sigma
Preise
Es fallen Gebühren für die Verwendung von Cloud TPUs auf Abruf und On-demand-Cloud TPUs (nicht auf Abruf) an, die zum Trainieren von ML-Modellen verwendet werden. Ausführliche Preisinformationen finden Sie in der Preisübersicht.
Preise für einzelne Cloud TPU-Geräte
Die folgende Tabelle enthält die Preise für die Nutzung eines einzelnen Cloud TPU-Geräts nach Region.
| Version | On demand | Auf Abruf |
|---|---|---|
| Cloud TPU v2 | 4,50 $/TPU-Stunde | 1,35 $/TPU-Stunde |
| Cloud TPU v3 | 8,00 $/TPU-Stunde | 2,40 $/TPU-Stunde |
| Version | On demand | Auf Abruf |
|---|---|---|
| Cloud TPU v2 | 4,95 $/TPU-Stunde | 1,485 $/TPU-Stunde |
| Cloud TPU v3 | 8,80 $/TPU-Stunde | 2,64 $/TPU-Stunde |
| Version | On demand | Auf Abruf |
|---|---|---|
| Cloud TPU v2 | 5,22 $/TPU-Stunde | 1,566 $/TPU-Stunde |
| Cloud TPU v3 | In dieser Region nicht verfügbar | In dieser Region nicht verfügbar |
Cloud TPU Pod-Preise
Die folgende Tabelle enthält die Preise für die Nutzung von Cloud TPU Pod-Slices.
| Cloud TPU v2 Pod | Kennenlernpreis pro Stunde | Preis bei Nutzungszusicherung 1 Jahr (37 % Rabatt) | Preis bei Nutzungszusicherung 3 Jahre (55 % Rabatt) |
|---|---|---|---|
| Pod-Slice mit 32 Kernen | 24 $ | 132.451 $ | 283.824 $ |
| Pod-Slice mit 128 Kernen | 96 $ | 529.805 $ | 1.135.296 $ |
| Pod-Slice mit 256 Kernen | 192 $ | 1.059.610 $ | 2.270.592 $ |
| Pod-Slice mit 512 Kernen | 384 $ | 2.119.219 $ | 4.541.184 $ |
| Cloud TPU v3 Pod | Kennenlernpreis pro Stunde | Preis bei Nutzungszusicherung 1 Jahr (37 % Rabatt) | Preis bei Nutzungszusicherung 3 Jahre (55 % Rabatt) |
| Pod-Slice mit 32 Kernen | 32 $ | 176.601 $ | 378.432 $ |
Wenn Sie eine Cloud TPU Pod-Konfiguration oder einen Preis für größere Cloud TPU v3 Pod-Segmente wünschen, kontaktieren Sie einen Vertriebsmitarbeiter.
Ressourcen
Anleitungen, Kurzanleitungen und Dokumente für Cloud TPU
Google Cloud Next ’19: Fast and Lean Data Science With TPUs
Cloud TPU-Inhalte von AI Hub
What’s in an image: fast, accurate image segmentation with Cloud TPUs
What makes TPUs fine-tuned for deep learning?
Train TensorFlow ML models faster and at lower cost on Cloud TPU Pods
Cloud KI-Produkte entsprechen den SLA-Richtlinien von Google Cloud. Sie bieten eventuell von anderen Google Cloud-Diensten abweichende Latenz- oder Verfügbarkeitsgarantien.