Addestramento con l'impiego dell'algoritmo di rilevamento di oggetti immagine integrato

Beta

Questa funzionalità è soggetta ai "Termini delle Offerte pre-GA" nella sezione Termini generali del servizio dei Termini specifici dei servizi. Le funzionalità pre-GA sono disponibili "così come sono" e potrebbero avere un supporto limitato. Per saperne di più, consulta le descrizioni della fase di lancio.

L'addestramento con algoritmi integrati in AI Platform Training ti consente di inviare il tuo set di dati e addestrare un modello senza scrivere codice di addestramento. Questa pagina spiega come funziona l'algoritmo integrato di rilevamento di oggetti immagine e come utilizzarlo.

Panoramica

L'algoritmo di rilevamento di oggetti immagine integrato utilizza i set di dati di addestramento e convalida per addestrare i modelli in modo continuo, quindi restituisce il modello SaveModel più accurato generato durante il job di addestramento. Puoi anche utilizzare l'ottimizzazione degli iperparametri per ottenere la migliore accuratezza del modello. Il SaveModel esportato può essere utilizzato direttamente per la previsione, in locale o di cui è stato eseguito il deployment in AI Platform Prediction per il servizio di produzione.

Limitazioni

Gli algoritmi integrati nelle immagini supportano l'addestramento con CPU, GPU o TPU singole. Il saveModel risultante è compatibile con la pubblicazione su CPU e GPU.

Le seguenti funzionalità non sono supportate per l'addestramento con l'algoritmo di rilevamento di oggetti immagine integrato:

• Addestramento distribuito. Per eseguire un job di addestramento distribuito con TensorFlow su AI Platform Training, devi creare un'applicazione di addestramento.
• Formazione su più GPU. Gli algoritmi integrati utilizzano una sola GPU alla volta. Per sfruttare al massimo l'addestramento con più GPU su una singola macchina, devi creare un'applicazione di addestramento. Scopri di più sui tipi di macchina.

Tipi di macchine supportati

Sono supportati i seguenti livelli di scalabilità e tipi di macchine di AI Platform Training:

• Livello di scalabilità BASIC
• Livello di scalabilità BASIC_TPU
• livello di scalabilità CUSTOM con uno dei tipi di macchine Compute Engine supportati da AI Platform Training.
• livello di scalabilità CUSTOM con uno dei seguenti tipi di macchine legacy:
  • standard
  • large_model
  • complex_model_s
  • complex_model_m
  • complex_model_l
  • standard_gpu
  • standard_p100
  • standard_v100
  • large_model_v100
  • complex_model_m_gpu
  • complex_model_l_gpu
  • complex_model_m_p100
  • complex_model_m_v100
  • complex_model_l_v100
  • TPU_V2 (8 core)

Autorizza la tua Cloud TPU ad accedere al progetto

Segui questi passaggi per autorizzare il nome dell'account di servizio Cloud TPU associato al tuo progetto Google Cloud:

1. Per recuperare il nome dell'account di servizio di Cloud TPU, chiama il numero projects.getConfig. Esempio:

   PROJECT_ID=PROJECT_ID
   
   curl -H "Authorization: Bearer $(gcloud auth print-access-token)"  \
       https://ml.googleapis.com/v1/projects/$PROJECT_ID:getConfig
   

2. Salva il valore dei campi serviceAccountProject e tpuServiceAccount restituiti dall'API.

3. Inizializza l'account di servizio Cloud TPU:

   curl -H "Authorization: Bearer $(gcloud auth print-access-token)"  \
     -H "Content-Type: application/json" -d '{}'  \
     https://serviceusage.googleapis.com/v1beta1/projects/<serviceAccountProject>/services/tpu.googleapis.com:generateServiceIdentity
   

Ora aggiungi l'account di servizio Cloud TPU come membro nel progetto con il ruolo Agente di servizio Cloud ML. Completa i seguenti passaggi nella console Google Cloud o utilizzando il comando gcloud:

Console

1. Accedi alla console Google Cloud e scegli il progetto in cui utilizzi la TPU.
2. Scegli IAM e amministrazione > IAM.
3. Fai clic sul pulsante Aggiungi per aggiungere un membro al progetto.
4. Inserisci l'account di servizio TPU nella casella di testo Membri.
5. Fai clic sull'elenco a discesa Ruoli.
6. Abilita il ruolo Agente di servizio Cloud ML (Agenti di servizio > Agente di servizio Cloud ML).

gcloud

1. Imposta le variabili di ambiente contenenti l'ID progetto e l'account di servizio Cloud TPU:

   PROJECT_ID=PROJECT_ID
   SVC_ACCOUNT=[e-mail]
   

2. Concedi il ruolo ml.serviceAgent all'account di servizio Cloud TPU:

   gcloud projects add-iam-policy-binding $PROJECT_ID \
       --member serviceAccount:$SVC_ACCOUNT --role roles/ml.serviceAgent
   

Per maggiori dettagli sulla concessione dei ruoli agli account di servizio, consulta la documentazione IAM.

Formattare i dati di input per l'addestramento

L'algoritmo integrato per il rilevamento degli oggetti immagine richiede che i dati di input vengano formattati come tf.Examples, salvati nei file TFRecord. La struttura dei dati tf.Example e il formato file TFRecord sono entrambi progettati per una lettura efficiente dei dati con TensorFlow.

Il formato TFRecord è un formato semplice per la memorizzazione di una sequenza di record binari. In questo caso, tutti i record contengono rappresentazioni binarie di immagini. Ogni immagine, insieme alle relative etichette delle classi, è rappresentata come tf.Example. Puoi salvare molti tf.Example in un singolo file TFRecord. Puoi anche sharding di un set di dati di grandi dimensioni tra più file TFRecord.

Scopri di più su TFRecord e tf.Example.

Converti le tue immagini in TFRecord

Per convertire le immagini nel formato richiesto per ottenere previsioni, segui la guida di TensorFlow Model Garden per la preparazione degli input per il rilevamento degli oggetti.

Controlla le autorizzazioni dei bucket Cloud Storage

Per archiviare i dati, utilizza un bucket Cloud Storage nello stesso progetto Google Cloud che stai utilizzando per eseguire i job di AI Platform Training. In caso contrario, concedi ad AI Platform Training l'accesso al bucket Cloud Storage in cui sono archiviati i tuoi dati.

Formato di input obbligatorio

Per eseguire l'addestramento con l'algoritmo integrato di rilevamento degli oggetti immagine, i dati delle immagini devono essere strutturati come tf.Example che includano i seguenti campi:

• image/encoded è l'immagine non elaborata codificata come stringa.

• image/object/class/label è un elenco di etichette di numeri interi per l'immagine corrispondente (un'etichetta per casella).

  L'insieme di etichette di numeri interi utilizzati per il set di dati deve essere una sequenza consecutiva che inizia da 1. Ad esempio, se il set di dati è composto da cinque classi, ogni etichetta deve essere un numero intero nell'intervallo [1, 5].

• image/object/bbox/xmin è un elenco di coordinate x sinistra normalizzate per l'immagine corrispondente (una coordinata per casella). Ogni coordinata deve essere compresa nell'intervallo [0, 1].

• image/object/bbox/xmax è un elenco di coordinate normalizzate X destra per l'immagine corrispondente (una coordinata per casella). Ogni coordinata deve essere compresa nell'intervallo [0, 1].

• image/object/bbox/ymin è un elenco di coordinate superiori normalizzate per l'immagine corrispondente (una coordinata per casella). Ogni coordinata deve essere compresa nell'intervallo [0, 1].

• image/object/bbox/ymax è un elenco di coordinate Y inferiori normalizzate per l'immagine corrispondente (una coordinata per casella). Ogni coordinata deve essere compresa nell'intervallo [0, 1].

L'esempio seguente mostra la struttura di un elemento tf.Example per un'immagine contenente due riquadri di delimitazione. La prima casella ha l'etichetta 1, l'angolo in alto a sinistra si trova nelle coordinate normalizzate (0.1, 0.4) e l'angolo in basso a destra si trova alle coordinate normalizzate (0.5, 0.8). Il secondo riquadro ha l'etichetta 2, l'angolo in alto a sinistra si trova nelle coordinate normalizzate (0.3, 0.5) e l'angolo in basso a destra nelle coordinate normalizzate (0.4, 0.7).

{
    'image/encoded': '<encoded image data>',
    'image/object/class/label': [1, 2],
    'image/object/bbox/xmin': [0.1, 0.3],
    'image/object/bbox/xmax': [0.5, 0.4],
    'image/object/bbox/ymin': [0.4, 0.5],
    'image/object/bbox/ymax': [0.8, 0.7]
}

Questo formato tf.Example è conforme a quello utilizzato nello script di rilevamento degli oggetti TFRecord.

Recupero del miglior SaveModel come output

Al completamento del job di addestramento, AI Platform Training scrive un SaveModel TensorFlow nel bucket Cloud Storage che hai specificato come jobDir al momento dell'invio del job. Il modello SaveModel è scritto in jobDir/model. Ad esempio, se invii il job a gs://your-bucket-name/your-job-dir, AI Platform Training scrive il savedModel in gs://your-bucket-name/your-job-dir/model.

Se hai abilitato l'ottimizzazione degli iperparametri, AI Platform Training restituisce il TensorFlow saveModel con la massima accuratezza raggiunta durante il processo di addestramento. Ad esempio, se hai inviato un job di addestramento con 2500 passaggi e la precisione è stata massima con 2000 passaggi, viene salvato un SaveModel di TensorFlow da quel punto specifico.

Ogni prova di AI Platform Training scrive il SaveModel di TensorFlow con la massima precisione nella propria directory all'interno del tuo bucket Cloud Storage. Ad esempio, gs://your-bucket-name/your-job-dir/model/trial_{trial_id}.

La firma del SaveModel di output è:

signature_def['serving_default']:
  The given SavedModel SignatureDef contains the following input(s):
    inputs['encoded_image'] tensor_info:
        dtype: DT_STRING
        shape: (-1)
        name: encoded_image_string_tensor:0
    inputs['key'] tensor_info:
        dtype: DT_STRING
        shape: (-1)
        name: key:0
  The given SavedModel SignatureDef contains the following output(s):
    outputs['detection_boxes'] tensor_info:
        dtype: DT_FLOAT
        shape: (-1, 100, 4)
        name: detection_boxes:0
    outputs['detection_classes'] tensor_info:
        dtype: DT_FLOAT
        shape: (-1, 100)
        name: detection_classes:0
    outputs['detection_scores'] tensor_info:
        dtype: DT_FLOAT
        shape: (-1, 100)
        name: detection_scores:0
    outputs['key'] tensor_info:
        dtype: DT_STRING
        shape: (-1)
        name: Identity:0
    outputs['num_detections'] tensor_info:
        dtype: DT_FLOAT
        shape: (-1)
        name: num_detections:0
  Method name is: tensorflow/serving/predict

Input:

• encoded_image: i byte dell'immagine non elaborata (non decodificata). È uguale a image/encoded archiviato in tf.Example.
• key: l'identificatore del valore stringa dell'input di previsione. Questo valore viene trasmesso all'output key. Nella previsione batch, questo consente di mappare l'output di previsione all'input.

Output:

• num_detections: il numero di riquadri di delimitazione rilevati.
• detection_boxes: un elenco di coordinate relative (valore in [0,1]) ([ymin, xmin, ymax, xmax]) dei riquadri di delimitazione del rilevamento.
• detection_classes: un elenco di etichette di classe (numero intero) previste per ogni casella di rilevamento in detection_boxes.
• detection_scores: un elenco di scores per ogni casella di rilevamento in detection_boxes.
• key: il tasto di output.

Di seguito è riportato un esempio di output di previsione:

{u'detection_classes': [1.0, 3.0, 3.0, ...],
u'key': u'test_key',
u'num_detections': 100.0,
u'detection_scores': [0.24401935935020447, 0.19375669956207275, 0.18359294533729553, ...]]}

Configurazioni di esempio

Se invii un job utilizzando gcloud, devi creare un file config.yaml per il tipo di macchina e le specifiche di ottimizzazione degli iperparametri. Se utilizzi la console Google Cloud, non è necessario creare questo file. Scopri come inviare un job di addestramento.

Nota: nella console Google Cloud sono elencati solo i tipo di macchina legacy (MLS1). Sia il tipo di macchina Compute Engine (N1) sia il tipo di macchina legacy (MLS1) sono disponibili quando si utilizza gcloud, una chiamata API diretta o una libreria client. Scopri di più sui tipi di macchine disponibili per l'addestramento.

Il seguente file config.yaml di esempio mostra come allocare le risorse TPU per il job di addestramento:

cat << EOF > config.yaml
trainingInput:
  scaleTier: CUSTOM
  masterType: n1-standard-16
  masterConfig:
    imageUri: gcr.io/cloud-ml-algos/image_object_detection:latest
    acceleratorConfig:
      type: NVIDIA_TESLA_P100
      count: 1
  workerType:  cloud_tpu
  workerConfig:
    imageUri: gcr.io/cloud-ml-algos/image_object_detection:latest
    tpuTfVersion: 1.14
    acceleratorConfig:
      type: TPU_V2
      count: 8
  workerCount: 1
EOF

Quindi, utilizza il file config.yaml per inviare un job di addestramento.

Configurazione dell'ottimizzazione degli iperparametri

Per utilizzare l'ottimizzazione degli iperparametri, includi la configurazione di ottimizzazione degli iperparametri nello stesso file config.yaml della configurazione della macchina.

Puoi trovare brevi spiegazioni di ciascun iperparametro all'interno della console Google Cloud e una spiegazione più completa nel riferimento per l'algoritmo di rilevamento di oggetti immagine integrato.

Il file config.yaml di esempio seguente mostra come allocare le risorse TPU per il job di addestramento e include la configurazione dell'ottimizzazione degli iperparametri:

cat << EOF > config.yaml
trainingInput:
  # Use a cluster with many workers and a few parameter servers.
  scaleTier: CUSTOM
  masterType: n1-standard-16
  masterConfig:
    imageUri: gcr.io/cloud-ml-algos/image_object_detection:latest
    acceleratorConfig:
      type: NVIDIA_TESLA_P100
      count: 1
  workerType:  cloud_tpu
  workerConfig:
    imageUri: gcr.io/cloud-ml-algos/image_object_detection:latest
    acceleratorConfig:
      type: TPU_V2
      count: 8
  workerCount: 1
  # The following are hyperparameter configs.
  hyperparameters:
   goal: MAXIMIZE
   hyperparameterMetricTag: "AP"
   maxTrials: 6
   maxParallelTrials: 3
   enableTrialEarlyStopping: True
   params:
   - parameterName: initial_learning_rate
     type: DOUBLE
     minValue: 0.001
     maxValue: 0.1
     scaleType: UNIT_LOG_SCALE
EOF

Invia un job di addestramento per il rilevamento di oggetti immagine

Questa sezione spiega come inviare un job di addestramento utilizzando l'algoritmo integrato di rilevamento di oggetti immagine.

Console

Seleziona l'algoritmo

1. Vai alla pagina Job di addestramento di AI Platform nella console Google Cloud:

   Pagina dei job di AI Platform Training

2. Fai clic sul pulsante Nuovo job di addestramento. Dalle opzioni visualizzate di seguito, fai clic su Addestramento con algoritmi integrati.

3. Nella pagina Crea un nuovo job di addestramento, seleziona rilevamento di oggetti immagine e fai clic su Avanti.

Seleziona i dati di addestramento e convalida

1. Nella casella a discesa in Dati di addestramento, specifica se stai utilizzando uno o più file:

   • Per un singolo file, lascia selezionata l'opzione "Use single file in a GCS bucket".
   • Per più file, seleziona "Utilizza più file archiviati in una sola directory Cloud Storage".

2. Per Percorso directory, fai clic su Sfoglia. Nel riquadro a destra, fai clic sul nome del bucket in cui hai caricato i dati di addestramento e vai al file.

   Se devi selezionare più file, inserisci i caratteri jolly in Nome carattere jolly. Di seguito viene visualizzato il "Percorso GCS completo" per verificare che il percorso sia corretto.

3. Nella casella a discesa sotto Dati di convalida, specifica se stai utilizzando uno o più file:

   • Per un singolo file, lascia selezionata l'opzione "Use single file in a GCS bucket".
   • Per più file, seleziona "Utilizza più file archiviati in una sola directory Cloud Storage".

4. Per Percorso directory, fai clic su Sfoglia. Nel riquadro a destra, fai clic sul nome del bucket in cui hai caricato i dati di addestramento e vai al file.

   Se devi selezionare più file, inserisci i caratteri jolly in Nome carattere jolly. Di seguito viene visualizzato il "Percorso GCS completo" per verificare che il percorso sia corretto.

5. In Directory di output, inserisci il percorso del bucket Cloud Storage in cui vuoi che AI Platform Training memorizzi gli output del job di addestramento. Puoi compilare direttamente il percorso del bucket Cloud Storage o fare clic sul pulsante Sfoglia per selezionarlo.

   Per mantenere tutto organizzato, crea una nuova directory all'interno del bucket Cloud Storage per questo job di addestramento. Puoi eseguire questa operazione nel riquadro Sfoglia.

   Tocca Avanti.

Imposta gli argomenti dell'algoritmo

Ogni argomento specifico dell'algoritmo visualizza un valore predefinito per i job di addestramento senza ottimizzazione degli iperparametri. Se abiliti l'ottimizzazione degli iperparametri su un argomento dell'algoritmo, devi specificare il valore minimo e massimo.

Per saperne di più su tutti gli argomenti degli algoritmi, segui i link nella console Google Cloud e fai riferimento al riferimento per il rilevamento di oggetti immagine integrato per ulteriori dettagli.

Invia il job

Nella scheda Impostazioni lavoro:

1. Inserisci un ID job univoco.
2. Inserisci una regione disponibile (ad es. "us-central1").
3. Per selezionare i tipi di macchina, seleziona "PERSONALIZZATO" per il livello di scalabilità. Una sezione per mostrare le specifiche personalizzate del cluster.
   1. Seleziona un tipo di macchina disponibile per Tipo di master.
   2. Se vuoi utilizzare le TPU, imposta il Tipo di worker su cloud_tpu. Il conteggio worker è impostato su 1 per impostazione predefinita.

Fai clic su Fine per inviare il job di addestramento.

gcloud

1. Imposta le variabili di ambiente per il job:

   PROJECT_ID="YOUR_PROJECT_ID"
   BUCKET_NAME="YOUR_BUCKET_NAME"
   
   # Specify the same region where your data is stored
   REGION="YOUR_REGION"
   
   gcloud config set project $PROJECT_ID
   gcloud config set compute/region $REGION
   
   # Set Cloud Storage paths to your training and validation data
   # Include a wildcard if you select multiple files.
   TRAINING_DATA_PATH="gs://${BUCKET_NAME}/YOUR_DATA_DIRECTORY/train-*.tfrecord"
   VALIDATION_DATA_PATH="gs://${BUCKET_NAME}/YOUR_DATA_DIRECTORY/eval-*.tfrecord"
   
   # Specify the Docker container for your built-in algorithm selection
   IMAGE_URI="gcr.io/cloud-ml-algos/image_object_detection:latest"
   
   # Variables for constructing descriptive names for JOB_ID and JOB_DIR
   DATASET_NAME="coco"
   ALGORITHM="object_detection"
   MODEL_NAME="${DATASET_NAME}_${ALGORITHM}"
   DATE="$(date '+%Y%m%d_%H%M%S')"
   
   # Specify an ID for this job
   JOB_ID="${MODEL_NAME}_${DATE}"
   
   # Specify the directory where you want your training outputs to be stored
   JOB_DIR="gs://${BUCKET_NAME}/algorithm_training/${JOB_ID}"
   

2. Invia il job:

   gcloud ai-platform jobs submit training $JOB_ID \
     --region=$REGION \
     --config=config.yaml \
     --job-dir=$JOB_DIR \
     -- \
     --training_data_path=$TRAINING_DATA_PATH \
     --validation_data_path=$VALIDATION_DATA_PATH \
     --train_batch_size=64 \
     --num_eval_images=500 \
     --train_steps_per_eval=2000 \
     --max_steps=22500 \
     --num_classes=90 \
     --warmup_steps=500 \
     --initial_learning_rate=0.08 \
     --fpn_type="nasfpn" \
     --aug_scale_min=0.8 \
     --aug_scale_max=1.2
   

   Nota: se l'addestramento avviene con un set di dati di grandi dimensioni, il completamento del job può richiedere diverse ore.

3. Una volta inviato correttamente il job, puoi visualizzare i log utilizzando i seguenti comandi gcloud:

   gcloud ai-platform jobs describe $JOB_ID
   gcloud ai-platform jobs stream-logs $JOB_ID
   

Passaggi successivi

• Scopri come utilizzare il tuo set di dati con lo script di rilevamento di oggetti TFRecord.
• Fai riferimento al riferimento per il rilevamento di oggetti immagine integrati per informazioni su tutti i diversi parametri.