Esegui il deployment e gestisci gli endpoint

Utilizza un modello Speech-to-Text personalizzato addestrato nella tua applicazione di produzione o nei flussi di lavoro di benchmarking. Devi eseguire il deployment ed esporre il modello tramite un endpoint dedicato, creato in parte per eseguire il deployment del modello nella regione scelta. L'accesso programmatico viene ottenuto automaticamente tramite un oggetto di riconoscimento. Viene utilizzato direttamente tramite l'API V2 o nella console Google Cloud. Puoi eseguire il deployment del modello in una regione diversa da quella in cui è stato addestrato, ma viene creata una copia del modello nella regione specificata dall'endpoint.

Per utilizzare un modello vocale personalizzato, devi eseguirlo e esporlo tramite un endpoint dedicato. Creando un endpoint, esegui il deployment del modello nella regione che preferisci. Ti viene concesso automaticamente l'accesso programmatico tramite un oggetto di riconoscimento da utilizzare direttamente tramite l'API V2 per l'inferenza o nella console Google Cloud.

Prima di iniziare

Assicurati di aver creato un Google Cloud account, un progetto e di aver addestrato un modello vocale personalizzato.

  1. Vai a Speech nella console Google Cloud e vai a Speech-to-Text.
  2. Esplora la sezione Modelli personalizzati della barra di navigazione a sinistra.

Creazione di un endpoint

  1. Vai alla scheda Endpoint della sezione Modelli personalizzati.
  2. Fai clic su Nuovo endpoint.
  3. Definisci un nome per l'endpoint. Questo valore funge da identificatore univoco per la risorsa endpoint e viene utilizzato per richiamare il modello vocale personalizzato per l'inferenza.
  4. Definisci la regione in cui vuoi eseguire il deployment del modello vocale personalizzato. Se il modello è stato addestrato in una regione diversa da quella definita nella configurazione dell'endpoint, viene creata automaticamente una nuova copia del modello.
  5. Seleziona dall'elenco il modello vocale personalizzato addestrato che vuoi esporre tramite l'endpoint.
  6. Fai clic su Crea e dopo alcuni istanti il modello vocale personalizzato viene implementato nell'endpoint, pronto per essere utilizzato per l'inferenza e il benchmarking.
Screenshot del flusso di lavoro di creazione dell'endpoint del modello di conversione da Speech-to-Text personalizzato, che mostra i campi richiesti per l'endpoint del modello personalizzato

Elenca i tuoi endpoint

Puoi gestire gli endpoint associati nella console selezionando la scheda Endpoint nella sezione Modelli personalizzati. Puoi anche elencare gli endpoint che hai creato nella console, insieme al loro stato corrente e al modello di conversione di Speech-to-Text personalizzato associato.

Screenshot del flusso di lavoro dell'elenco di endpoint dei modelli di conversione da Speech-to-Text personalizzati, che mostra una tabella con tutti gli endpoint già creati dei modelli personalizzati

Eliminazione di un endpoint

Prima di iniziare, assicurati che non venga instradato traffico tramite l'endpoint, perché l'eliminazione impedirà l'elaborazione di qualsiasi richiesta.

  1. Vai alla scheda Endpoint della sezione Modelli personalizzati.
  2. Nella scheda Endpoint, fai clic per espandere le opzioni e poi fai clic su Elimina. Dopo pochi istanti, l'endpoint viene eliminato e non gestisce più alcun traffico.

Esegui il benchmark del modello

Per valutare l'accuratezza del modello, utilizza il modello Speech-to-Text personalizzato e il tuo set di dati di benchmarking seguendo la guida per misurare e migliorare l'accuratezza.