public interface DedicatedResourcesOrBuilder extends MessageOrBuilder
Implementa
MessageOrBuilderMetodi
getAutoscalingMetricSpecs(int index)
public abstract AutoscalingMetricSpec getAutoscalingMetricSpecs(int index)
Immutabile. Le specifiche della metrica che eseguono l'override di una metrica di utilizzo delle risorse (utilizzo CPU, ciclo di servizio dell'acceleratore e così via) sul valore di destinazione (il valore predefinito è 60 se non impostato). È consentita al massimo una voce per metrica.
Se machine_spec.accelerator_count è superiore a 0, la scalabilità automatica si baserà sulle metriche di utilizzo della CPU e del ciclo di lavoro dell'acceleratore e verrà scalata quando una delle due metriche supererà il valore target e fare lo scale down se entrambe le metriche sono al di sotto del valore target. Il valore target predefinito è 60 per entrambe le metriche.
Se machine_spec.accelerator_count è pari a 0, la scalabilità automatica si baserà sulla metrica di utilizzo della CPU solo con valore di destinazione predefinito 60 se non impostato in modo esplicito.
Ad esempio, nel caso della previsione online, se vuoi eseguire l'override dell'utilizzo della CPU target su 80, devi impostare autoscaling_metric_specs.metric_name su aiplatform.googleapis.com/prediction/online/cpu/utilization
e autoscaling_metric_specs.target su 80
.
repeated .google.cloud.vertexai.v1.AutoscalingMetricSpec autoscaling_metric_specs = 4 [(.google.api.field_behavior) = IMMUTABLE];
Parametro | |
---|---|
Nome | Description |
index |
int |
Restituisce | |
---|---|
Tipo | Description |
AutoscalingMetricSpec |
getAutoscalingMetricSpecsCount()
public abstract int getAutoscalingMetricSpecsCount()
Immutabile. Le specifiche della metrica che eseguono l'override di una metrica di utilizzo delle risorse (utilizzo CPU, ciclo di servizio dell'acceleratore e così via) sul valore di destinazione (il valore predefinito è 60 se non impostato). È consentita al massimo una voce per metrica.
Se machine_spec.accelerator_count è superiore a 0, la scalabilità automatica si baserà sulle metriche di utilizzo della CPU e del ciclo di lavoro dell'acceleratore e verrà scalata quando una delle due metriche supererà il valore target e fare lo scale down se entrambe le metriche sono al di sotto del valore target. Il valore target predefinito è 60 per entrambe le metriche.
Se machine_spec.accelerator_count è pari a 0, la scalabilità automatica si baserà sulla metrica di utilizzo della CPU solo con valore di destinazione predefinito 60 se non impostato in modo esplicito.
Ad esempio, nel caso della previsione online, se vuoi eseguire l'override dell'utilizzo della CPU target su 80, devi impostare autoscaling_metric_specs.metric_name su aiplatform.googleapis.com/prediction/online/cpu/utilization
e autoscaling_metric_specs.target su 80
.
repeated .google.cloud.vertexai.v1.AutoscalingMetricSpec autoscaling_metric_specs = 4 [(.google.api.field_behavior) = IMMUTABLE];
Restituisce | |
---|---|
Tipo | Description |
int |
getAutoscalingMetricSpecsList()
public abstract List<AutoscalingMetricSpec> getAutoscalingMetricSpecsList()
Immutabile. Le specifiche della metrica che eseguono l'override di una metrica di utilizzo delle risorse (utilizzo CPU, ciclo di servizio dell'acceleratore e così via) sul valore di destinazione (il valore predefinito è 60 se non impostato). È consentita al massimo una voce per metrica.
Se machine_spec.accelerator_count è superiore a 0, la scalabilità automatica si baserà sulle metriche di utilizzo della CPU e del ciclo di lavoro dell'acceleratore e verrà scalata quando una delle due metriche supererà il valore target e fare lo scale down se entrambe le metriche sono al di sotto del valore target. Il valore target predefinito è 60 per entrambe le metriche.
Se machine_spec.accelerator_count è pari a 0, la scalabilità automatica si baserà sulla metrica di utilizzo della CPU solo con valore di destinazione predefinito 60 se non impostato in modo esplicito.
Ad esempio, nel caso della previsione online, se vuoi eseguire l'override dell'utilizzo della CPU target su 80, devi impostare autoscaling_metric_specs.metric_name su aiplatform.googleapis.com/prediction/online/cpu/utilization
e autoscaling_metric_specs.target su 80
.
repeated .google.cloud.vertexai.v1.AutoscalingMetricSpec autoscaling_metric_specs = 4 [(.google.api.field_behavior) = IMMUTABLE];
Restituisce | |
---|---|
Tipo | Description |
List<AutoscalingMetricSpec> |
getAutoscalingMetricSpecsOrBuilder(int index)
public abstract AutoscalingMetricSpecOrBuilder getAutoscalingMetricSpecsOrBuilder(int index)
Immutabile. Le specifiche della metrica che eseguono l'override di una metrica di utilizzo delle risorse (utilizzo CPU, ciclo di servizio dell'acceleratore e così via) sul valore di destinazione (il valore predefinito è 60 se non impostato). È consentita al massimo una voce per metrica.
Se machine_spec.accelerator_count è superiore a 0, la scalabilità automatica si baserà sulle metriche di utilizzo della CPU e del ciclo di lavoro dell'acceleratore e verrà scalata quando una delle due metriche supererà il valore target e fare lo scale down se entrambe le metriche sono al di sotto del valore target. Il valore target predefinito è 60 per entrambe le metriche.
Se machine_spec.accelerator_count è pari a 0, la scalabilità automatica si baserà sulla metrica di utilizzo della CPU solo con valore di destinazione predefinito 60 se non impostato in modo esplicito.
Ad esempio, nel caso della previsione online, se vuoi eseguire l'override dell'utilizzo della CPU target su 80, devi impostare autoscaling_metric_specs.metric_name su aiplatform.googleapis.com/prediction/online/cpu/utilization
e autoscaling_metric_specs.target su 80
.
repeated .google.cloud.vertexai.v1.AutoscalingMetricSpec autoscaling_metric_specs = 4 [(.google.api.field_behavior) = IMMUTABLE];
Parametro | |
---|---|
Nome | Description |
index |
int |
Restituisce | |
---|---|
Tipo | Description |
AutoscalingMetricSpecOrBuilder |
getAutoscalingMetricSpecsOrBuilderList()
public abstract List<? extends AutoscalingMetricSpecOrBuilder> getAutoscalingMetricSpecsOrBuilderList()
Immutabile. Le specifiche della metrica che eseguono l'override di una metrica di utilizzo delle risorse (utilizzo CPU, ciclo di servizio dell'acceleratore e così via) sul valore di destinazione (il valore predefinito è 60 se non impostato). È consentita al massimo una voce per metrica.
Se machine_spec.accelerator_count è superiore a 0, la scalabilità automatica si baserà sulle metriche di utilizzo della CPU e del ciclo di lavoro dell'acceleratore e verrà scalata quando una delle due metriche supererà il valore target e fare lo scale down se entrambe le metriche sono al di sotto del valore target. Il valore target predefinito è 60 per entrambe le metriche.
Se machine_spec.accelerator_count è pari a 0, la scalabilità automatica si baserà sulla metrica di utilizzo della CPU solo con valore di destinazione predefinito 60 se non impostato in modo esplicito.
Ad esempio, nel caso della previsione online, se vuoi eseguire l'override dell'utilizzo della CPU target su 80, devi impostare autoscaling_metric_specs.metric_name su aiplatform.googleapis.com/prediction/online/cpu/utilization
e autoscaling_metric_specs.target su 80
.
repeated .google.cloud.vertexai.v1.AutoscalingMetricSpec autoscaling_metric_specs = 4 [(.google.api.field_behavior) = IMMUTABLE];
Restituisce | |
---|---|
Tipo | Description |
List<? extends com.google.cloud.vertexai.api.AutoscalingMetricSpecOrBuilder> |
getMachineSpec()
public abstract MachineSpec getMachineSpec()
Obbligatorio. Immutabile. La specifica di una singola macchina utilizzata dalla previsione.
.google.cloud.vertexai.v1.MachineSpec machine_spec = 1 [(.google.api.field_behavior) = REQUIRED, (.google.api.field_behavior) = IMMUTABLE];
Restituisce | |
---|---|
Tipo | Description |
MachineSpec |
Il parametro machineSpec. |
getMachineSpecOrBuilder()
public abstract MachineSpecOrBuilder getMachineSpecOrBuilder()
Obbligatorio. Immutabile. La specifica di una singola macchina utilizzata dalla previsione.
.google.cloud.vertexai.v1.MachineSpec machine_spec = 1 [(.google.api.field_behavior) = REQUIRED, (.google.api.field_behavior) = IMMUTABLE];
Restituisce | |
---|---|
Tipo | Description |
MachineSpecOrBuilder |
getMaxReplicaCount()
public abstract int getMaxReplicaCount()
Immutabile. Il numero massimo di repliche in cui può essere eseguito il deployment di questo modello implementato quando il traffico verso il modello aumenta. Se il valore richiesto è troppo elevato, il deployment commette un errore, ma se il deployment ha esito positivo viene garantita la capacità di scalare il modello fino a un numero di repliche elevato (salvo interruzioni del servizio). Se il traffico verso il modello DeployedModel aumenta oltre il limite massimo consentito dalle sue repliche, verrà eliminata una parte del traffico. Se questo valore non viene fornito, utilizzerà min_replica_count come valore predefinito.
Il valore di questo campo influisce sull'addebito relativo alle quote di CPU e GPU di Vertex. In particolare, ti verranno addebitati i costi relativi a (max_replica_count * numero di core nel tipo di macchina selezionato) e (max_replica_count * numero di GPU per replica nel tipo di macchina selezionato).
int32 max_replica_count = 3 [(.google.api.field_behavior) = IMMUTABLE];
Restituisce | |
---|---|
Tipo | Description |
int |
Il valore maxReplicaCount. |
getMinReplicaCount()
public abstract int getMinReplicaCount()
Obbligatorio. Immutabile. Il numero minimo di repliche della macchina in cui verrà sempre eseguito il deployment di questo modello. Questo valore deve essere maggiore o uguale a 1.
Se il traffico verso DeployedModel aumenta, può essere eseguito dinamicamente il deployment su più repliche e, con la diminuzione del traffico, alcune di queste repliche aggiuntive potrebbero essere liberate.
int32 min_replica_count = 2 [(.google.api.field_behavior) = REQUIRED, (.google.api.field_behavior) = IMMUTABLE];
Restituisce | |
---|---|
Tipo | Description |
int |
Il valore minReplicaCount. |
hasMachineSpec()
public abstract boolean hasMachineSpec()
Obbligatorio. Immutabile. La specifica di una singola macchina utilizzata dalla previsione.
.google.cloud.vertexai.v1.MachineSpec machine_spec = 1 [(.google.api.field_behavior) = REQUIRED, (.google.api.field_behavior) = IMMUTABLE];
Restituisce | |
---|---|
Tipo | Description |
boolean |
Indica se il campo machineSpec è impostato. |