Risoluzione dei problemi relativi ai dischi NVMe

Questo documento elenca gli errori che potresti riscontrare quando utilizzi i dischi con l'interfaccia NVMe (non-volatile memory express).

Puoi utilizzare l'interfaccia NVMe per le unità SSD locali e i dischi permanenti (Persistent Disk o Google Cloud Hyperdisk). Solo le serie di macchine più recenti, come Tau T2A, M3, C3, C3D e H3, utilizzano l'interfaccia NVMe per Persistent Disk. Confidential VM utilizzano anche NVMe per i Persistent Disk. Tutte le altre serie di macchine Compute Engine utilizzano l'interfaccia del disco SCSI per i dischi permanenti.

Errore di timeout dell'operazione I/O

Se riscontri errori di timeout I/O, la latenza potrebbe superare il parametro di timeout predefinito per le operazioni I/O inviate ai dispositivi NVMe.

Messaggio di errore: 

[1369407.045521] nvme nvme0: I/O 252 QID 2 timeout, aborting
[1369407.050941] nvme nvme0: I/O 253 QID 2 timeout, aborting
[1369407.056354] nvme nvme0: I/O 254 QID 2 timeout, aborting
[1369407.061766] nvme nvme0: I/O 255 QID 2 timeout, aborting
[1369407.067168] nvme nvme0: I/O 256 QID 2 timeout, aborting
[1369407.072583] nvme nvme0: I/O 257 QID 2 timeout, aborting
[1369407.077987] nvme nvme0: I/O 258 QID 2 timeout, aborting
[1369407.083395] nvme nvme0: I/O 259 QID 2 timeout, aborting
[1369407.088802] nvme nvme0: I/O 260 QID 2 timeout, aborting
...

Risoluzione:

Per risolvere il problema, aumenta il valore del parametro timeout.

  1. Visualizza il valore corrente del parametro timeout.

    1. Determina quale controller NVMe viene utilizzato dal disco permanente o dal volume SSD locale. 
      ls -l /dev/disk/by-id

    2. Mostra l'impostazione io_timeout, specificata in secondi, per il disco. 

      cat /sys/class/nvme/CONTROLLER_ID/NAMESPACE/queue/io_timeout
      Sostituisci quanto segue:

      • CONTROLLER_ID: l'ID del controller del disco NVMe, ad esempio nvme1
      • NAMESPACE: il nome del namespace del disco NVMe, ad esempio nvme1n1

      Se hai un solo disco che utilizza NVMe, utilizza il comando: 

      cat /sys/class/nvme/nvme0/nvme0n1/queue/io_timeout

  2. Per aumentare il parametro di timeout per le operazioni di I/O inviate ai dispositivi NVMe, aggiungi la seguente riga al file/lib/udev/rules.d/65-gce-disk-naming.rules e riavvia la VM:

    KERNEL=="nvme*n*", ENV{DEVTYPE}=="disk", ATTRS{model}=="nvme_card-pd", ATTR{queue/io_timeout}="4294967295"

I dischi scollegati vengono comunque visualizzati nel sistema operativo di un'istanza di calcolo

Nelle VM che utilizzano il kernel Linux dalla versione 6.0 alla 6.2, le operazioni che coinvolgono il metodo instances.detachDisk dell'API Compute Engine o il comando gcloud compute instances detach-disk potrebbero non funzionare come previsto. La console Google Cloud mostra il dispositivo come rimosso, i metadati dell'istanza di calcolo (comando compute disks describe) mostrano il dispositivo come rimosso, ma il punto di montaggio del dispositivo e eventuali link simbolici creati dalle regole udev sono ancora visibili nel sistema operativo guest.

Messaggio di errore:

Il tentativo di lettura dal disco scollegato sulla VM genera errori di I/O:

sudo head /dev/nvme0n3

head: error reading '/dev/nvme0n3': Input/output error

Problema:

Le immagini del sistema operativo che utilizzano un kernel Linux 6.0-6.2, ma non includono un backport di una correzione NVMe, non riescono a riconoscere quando un disco NVMe viene scollegato.

Risoluzione:

Riavvia la VM per completare la procedura di rimozione del disco.

Per evitare questo problema, utilizza un sistema operativo con una versione del kernel Linux che non presenta questo problema:

  • 5.19 o versioni successive
  • 6.3 o versioni successive

Puoi utilizzare il comando uname -r nel sistema operativo guest per visualizzare la versione del kernel Linux.

Se colleghi dischi SSD locali a una VM C3 o C3D, potresti dover eseguire passaggi aggiuntivi per creare i link simbolici per i dischi SSD locali. Questi passaggi sono obbligatori solo se utilizzi una delle seguenti immagini pubbliche offerte da Google Cloud:

  • SLES 15 SP4 e SP5
  • SLES 12 SP4

Questi passaggi aggiuntivi si applicano solo ai dischi SSD locali. Non devi fare nulla per i volumi dei Persistent Disk.

Le immagini Linux pubbliche elencate in precedenza non hanno la configurazione correttaudev per creare link simbolici per i dispositivi SSD locali collegati alle VM C3 e C3D. Inoltre, le immagini personalizzate potrebbero non includere le regole udev necessarie per creare link simbolici per i dispositivi SSD locali collegati alle VM C3 e C3D.

Segui queste istruzioni per aggiungere regole udev per SUSE o immagini personalizzate.

  1. Individua la directory delle regole udev. Di solito è /lib/udev/rules.d o /usr/lib/udev/rules.d. La tua immagine potrebbe avere una directory delle regole udev diversa.
  2. Individua il file 65-gce-disk-naming.rules nella directory delle regole udev.

  3. Se il file 65-gce-disk-naming.rules contiene la riga seguente, l'immagine supporta le nuove regole e puoi fermarti qui:

    KERNEL=="nvme*n*", ATTRS{model}=="nvme_card[0-9]*",IMPORT{program}="google_nvme_id -d $tempnode"

  4. Se la riga precedente non è presente o se il file65-gce-disk-naming.rules non esiste, sostituisci il file esistente o crea un nuovo file con i contenuti del file da questo URL: https://raw.githubusercontent.com/GoogleCloudPlatform/guest-configs/20230630.00/src/lib/udev/rules.d/65-gce-disk-naming.rules. Questo file contiene i contenuti aggiornati del file 65-gce-disk-naming.rules, inclusa la riga del passaggio precedente e altre regole necessarie per la denominazione dei dischi Compute Engine. Ad esempio:

    sudo curl -o 65-gce-disk-naming.rules https://raw.githubusercontent.com/GoogleCloudPlatform/guest-configs/20230630.00/src/lib/udev/rules.d/65-gce-disk-naming.rules

  5. Vai alla directory udev.

  6. Individua il file google_nvme_id nella directory udev.

  7. Sostituisci i contenuti del file google_nvme_id esistente o crea un nuovo file con i contenuti di questo URL:

    sudo curl -o google_nvme_id https://raw.githubusercontent.com/GoogleCloudPlatform/guest-configs/20230630.00/src/lib/udev/google_nvme_id

  8. Assicurati che il file google_nvme_id sia eseguibile.

    sudo chmod 755 google_nvme_id

  9. Riavvia la VM.

  10. Verifica che i link simbolici siano stati creati correttamente.

    ls -l /dev/disk/by-id/google-local-nvme-ssd*

    L'output dovrebbe elencare lo stesso numero di link delle SSD locali collegate all'istanza e ogni link deve puntare a un percorso del dispositivo /dev/nvme diverso. Ad esempio:

    lrwxrwxrwx 1 root root 13 Jul 19 22:52 /dev/disk/by-id/google-local-nvme-ssd-0 -> ../../nvme0n1
lrwxrwxrwx 1 root root 13 Jul 19 22:52 /dev/disk/by-id/google-local-nvme-ssd-1 -> ../../nvme1n1

    Per ulteriori informazioni sui nomi dei dispositivi, consulta Nomi dei dispositivi.

    Puoi verificare che i percorsi dei dispositivi /dev/nvme siano dispositivi SSD locali eseguendo lsblk. I dispositivi NVMe che mostrano 375G come dimensione sono dispositivi SSD locali.

Passaggi successivi