Per utilizzare meglio le risorse, puoi monitorare l'utilizzo della GPU delle tue istanze di macchine virtuali (VM).
Se conosci le percentuali di utilizzo delle GPU, puoi eseguire attività come sulla configurazione dei gruppi di istanze gestite utilizzabili per la scalabilità automatica delle risorse.
Per esaminare le metriche della GPU utilizzando Cloud Monitoring, completa i seguenti passaggi:
- Su ogni VM, configura lo script di generazione di report sulle metriche GPU. Questo script installa l'agente di reporting sulle metriche GPU. Questo agente viene eseguito a intervalli sulla VM per raccogliere i dati GPU e li invia a Cloud Monitoring.
- Su ogni VM, esegui lo script.
- Su ogni VM, imposta l'agente di reporting sulle metriche GPU su viene avviata automaticamente all'avvio.
- Visualizza i log in Google Cloud Monitoring.
Configurare lo script di report sulle metriche GPU
Requisiti
Su ciascuna delle tue VM, verifica di soddisfare i seguenti requisiti:
- A ogni VM devono essere collegate GPU.
- Su ogni VM deve essere installato un driver GPU.
Scaricare lo script
Aprire un terminale PowerShell come amministratore e utilizzare
Comando Invoke-WebRequest
per scaricare lo script.
Invoke-WebRequest
è disponibile su PowerShell 3.0 o versioni successive.
Google Cloud consiglia di utilizzare ctrl+v
per incollare i blocchi di codice copiati.
mkdir c:\google-scripts cd c:\google-scripts Invoke-Webrequest -uri https://raw.githubusercontent.com/GoogleCloudPlatform/compute-gpu-monitoring/main/windows/gce-gpu-monitoring-cuda.ps1 -outfile gce-gpu-monitoring-cuda.ps1
Esegui lo script
cd c:\google-scripts .\gce-gpu-monitoring-cuda.ps1
Configura l'agente in modo che venga avviato automaticamente all'avvio
Per assicurarti che l'agente di generazione di report sulle metriche GPU sia configurato per l'esecuzione all'avvio del sistema, utilizza il seguente comando per aggiungerlo al programma di pianificazione delle attività di Windows.
$Trigger= New-ScheduledTaskTrigger -AtStartup $Trigger.ExecutionTimeLimit = "PT0S" $User= "NT AUTHORITY\SYSTEM" $Action= New-ScheduledTaskAction -Execute "PowerShell.exe" -Argument "C:\google-scripts\gce-gpu-monitoring-cuda.ps1" $settingsSet = New-ScheduledTaskSettingsSet # Set the Execution Time Limit to unlimited on all versions of Windows Server $settingsSet.ExecutionTimeLimit = 'PT0S' Register-ScheduledTask -TaskName "MonitoringGPUs" -Trigger $Trigger -User $User -Action $Action -Force -Settings $settingsSet
Esamina le metriche in Cloud Monitoring
Nella console Google Cloud, vai alla pagina Esplora metriche.
Espandi il menu Seleziona una metrica.
Nel menu Risorsa, seleziona Istanza VM.
Nel menu Categoria di metrica, seleziona Personalizzata.
Nel menu Metrica, seleziona la metrica da rappresentare graficamente. Ad esempio:
custom/instance/gpu/utilization
.Fai clic su Applica.
L'utilizzo della GPU dovrebbe essere simile all'output seguente:
Metriche disponibili
Nome metrica | Descrizione |
---|---|
instance/gpu/utilization |
Percentuale di tempo nell'ultimo periodo di esempio durante il quale uno o più kernel sono stati eseguiti sulla GPU. |
instance/gpu/memory_utilization |
Percentuale di tempo nell'ultimo periodo di esempio in cui è stata letta o scritta la memoria globale (dispositivo). |
instance/gpu/memory_total |
Memoria GPU totale installata. |
instance/gpu/memory_used |
Memoria totale allocata da contesti attivi. |
instance/gpu/memory_used_percent |
Percentuale di memoria totale allocata da contesti attivi. Varia da 0 a 100. |
instance/gpu/memory_free |
Memoria libera totale. |
istanza/gpu/temperatura |
Temperatura interna della GPU in Celsius (°C). |
Passaggi successivi
- Per gestire la manutenzione dell'host GPU, consulta Gestione degli eventi di manutenzione dell'host GPU.
- Per migliorare le prestazioni della rete, vedi Utilizzare una larghezza di banda di rete superiore.