Utilizzo del numero minimo di istanze

Scopri come abilitare le istanze inattive per i tuoi servizi configurando il numero minimo di istanze delle istanze VM.

Per impostazione predefinita, Knative serving scala fino al numero di istanze in base al numero di richieste in entrata. Tuttavia, se il servizio richiede una latenza ridotta e vuoi limitare il numero avvii a freddo, puoi modificare questo comportamento predefinito specificando un numero minimo di istanze di container in esecuzione e pronte a gestire le richieste.

Le istanze mantenute in esecuzione in questo modo sono soggette a costi di fatturazione.

Revisioni e numero minimo di istanze

Il numero minimo di istanze viene avviato solo se la revisione è indirizzabile. Una revisione è indirizzabile se una delle seguenti condizioni è vera:

• Riceve una percentuale del traffico.
• Gli è stato assegnato un tag di revisione.

Impostazione e aggiornamento del numero minimo di istanze

Qualsiasi modifica alla configurazione porta la creazione di una nuova revisione. Anche le revisioni successive ricevono automaticamente di questa configurazione, a meno che non apporti aggiornamenti espliciti per modificarla.

Per impostazione predefinita, le istanze di container hanno min-instances disattivato, con un'impostazione di 0. Puoi modificare questa impostazione predefinita utilizzando la console Google Cloud, o Google Cloud CLI quando esegui il deployment service o aggiornare un servizio esistente esegui il deployment di una revisione:

Console

1. Vai a Knative serving nella console Google Cloud:

   Vai a Knative serving

2. Fai clic su Crea servizio se stai configurando un nuovo servizio in cui stai eseguendo il deployment. Se stai configurando un'istanza servizio esistente, fai clic sul servizio e poi su Modifica e Esegui il deployment della nuova revisione.

3. In Impostazioni avanzate, fai clic su Contenitore.

4. Nel campo Numero minimo di istanze: e specificare il numero desiderato di istanze di container da tenere in uso, pronte a ricevere richieste.

5. Fai clic su Avanti per passare alla sezione successiva.

6. Nella sezione Configura il modo in cui viene attivato questo servizio, seleziona la connettività da utilizzare per richiamare il servizio.

7. Fai clic su Crea per eseguire il deployment dell'immagine in Knative serving e attendi. per completare il deployment.

Riga di comando

• Per i servizi esistenti, imposta il numero minimo di istanze di container eseguendo il comando gcloud run services update --min-instances :

  gcloud run services update SERVICE --min-instances MIN-VALUE
  

  Sostituisci:

  • SERVICE con il nome del tuo servizio.
  • MIN-VALUE con il numero desiderato di container di mantenere attive le istanze, pronte a ricevere richieste. Specifica default per cancellare eventuali impostazioni minime dell'istanza.

• Per i nuovi servizi, imposta il numero minimo di istanze di container eseguendo il comando gcloud run deploy --min-instances :

  gcloud run deploy SERVICE --image=IMAGE_URL --min-instances MIN-VALUE
  

  Sostituisci:

  • SERVICE con il nome del tuo servizio.
  • IMAGE_URL con un riferimento all'immagine container, per ad esempio gcr.io/cloudrun/hello.
  • MIN-VALUE con il numero desiderato di di container in uso, pronte a ricevere richieste. Specifica default per cancellare eventuali impostazioni minime dell'istanza.

YAML

Attenzione: il deployment delle modifiche alla configurazione utilizzando file YAML sostituisce le la configurazione dei servizi esistenti. Poiché un file YAML sovrascrive completamente tutte le configurazioni, è consigliabile evitare di utilizzare più metodi per modificare i servizi di machine learning. Ad esempio, non utilizzare i file YAML insieme Console Google Cloud o i comandi gcloud.

Puoi scaricare la configurazione di un servizio esistente in un YAML con il comando gcloud run services describe utilizzando --format=export. Puoi quindi modificare il file YAML ed eseguire il deployment queste modifiche con il comando gcloud run services replace. Assicurarsi di modificare solo gli attributi specificati.

1. Scarica la configurazione del tuo servizio in un file denominato service.yaml nell'area di lavoro locale:

   gcloud run services describe SERVICE --format export > service.yaml

   Sostituisci SERVICE con il nome del tuo servizio Knative serving.

2. Nel file locale, aggiorna autoscaling.knative.dev/minScale: :

   spec:
    template:
      metadata:
        annotations:
          autoscaling.knative.dev/minScale: 'MIN-INSTANCE' 

   Sostituisci:

   • MIN-VALUEcode> con il numero desiderato di di container in uso, pronte a ricevere richieste. Specifica default per cancellare eventuali impostazioni minime dell'istanza.

3. Sostituisci il servizio con la nuova configurazione utilizzando il seguente comando:

   gcloud run services replace service.yaml