Risorsa: batch
Una rappresentazione di un carico di lavoro batch nel servizio.
Rappresentazione JSON |
---|
{ "name": string, "uuid": string, "createTime": string, "runtimeInfo": { object ( |
Campi | |
---|---|
name |
Solo output. Il nome della risorsa del batch. |
uuid |
Solo output. Un UUID (Universal Unique Identifier) del batch. Il servizio genera questo valore quando crea il batch. |
create |
Solo output. L'ora in cui è stato creato il batch. Un timestamp in formato "Zulu" UTC RFC3339, con risoluzione a livello di nanosecondo e fino a nove cifre frazionarie. Esempi: |
runtime |
Solo output. Informazioni di runtime sull'esecuzione batch. |
state |
Solo output. Lo stato del batch. |
state |
Solo output. Dettagli dello stato del batch, ad esempio una descrizione dell'errore se lo stato è |
state |
Solo output. L'ora in cui il batch è passato a uno stato corrente. Un timestamp in formato "Zulu" UTC RFC3339, con risoluzione a livello di nanosecondo e fino a nove cifre frazionarie. Esempi: |
creator |
Solo output. L'indirizzo email dell'utente che ha creato il batch. |
labels |
Facoltativo. Le etichette da associare a questo batch. Le chiavi delle etichette devono contenere da 1 a 63 caratteri e devono essere conformi allo standard RFC 1035. I valori delle etichette possono essere vuoti, ma, se presenti, devono contenere da 1 a 63 caratteri e devono essere conformi allo standard RFC 1035. Non è possibile associare più di 32 etichette a un batch. Un oggetto contenente un elenco di coppie |
runtime |
Facoltativo. Configurazione di runtime per l'esecuzione batch. |
environment |
Facoltativo. Configurazione dell'ambiente per l'esecuzione batch. |
operation |
Solo output. Il nome della risorsa dell'operazione associata a questo batch. |
state |
Solo output. Informazioni sullo stato storico del batch. |
Campo unione batch_config . La parte specifica dell'applicazione/del framework della configurazione batch. batch_config può essere solo uno dei seguenti: |
|
pyspark |
Facoltativo. Configurazione batch di PySpark. |
spark |
Facoltativo. Configurazione del batch Spark. |
spark |
Facoltativo. Configurazione batch SparkR. |
spark |
Facoltativo. Configurazione batch SparkSql. |
PySparkBatch
Una configurazione per l'esecuzione di un workload batch Apache PySpark.
Rappresentazione JSON |
---|
{ "mainPythonFileUri": string, "args": [ string ], "pythonFileUris": [ string ], "jarFileUris": [ string ], "fileUris": [ string ], "archiveUris": [ string ] } |
Campi | |
---|---|
main |
Obbligatorio. L'URI HCFS del file Python principale da utilizzare come driver Spark. Deve essere un file .py. |
args[] |
Facoltativo. Gli argomenti da passare al driver. Non includere argomenti che possono essere impostati come proprietà batch, ad esempio |
python |
Facoltativo. URI file HCFS dei file Python da passare al framework PySpark. Tipi di file supportati: |
jar |
Facoltativo. URI HCFS dei file JAR da aggiungere al percorso di classe del driver e delle attività Spark. |
file |
Facoltativo. URI HCFS dei file da inserire nella directory di lavoro di ciascun esecutore. |
archive |
Facoltativo. URI HCFS degli archivi da estrarre nella directory di lavoro di ciascun esecutore. Tipi di file supportati: |
SparkBatch
Una configurazione per l'esecuzione di un workload batch Apache Spark.
Rappresentazione JSON |
---|
{ "args": [ string ], "jarFileUris": [ string ], "fileUris": [ string ], "archiveUris": [ string ], // Union field |
Campi | |
---|---|
args[] |
Facoltativo. Gli argomenti da passare al driver. Non includere argomenti che possono essere impostati come proprietà batch, ad esempio |
jar |
Facoltativo. URI HCFS dei file JAR da aggiungere al percorso di classe del driver e delle attività Spark. |
file |
Facoltativo. URI HCFS dei file da inserire nella directory di lavoro di ciascun esecutore. |
archive |
Facoltativo. URI HCFS degli archivi da estrarre nella directory di lavoro di ciascun esecutore. Tipi di file supportati: |
Campo unione driver . La specifica del metodo principale da chiamare per gestire il workload Spark. Specifica il file jar contenente la classe principale o il nome della classe principale. Per passare sia un jar principale che una classe principale in quel jar, aggiungi il jar a jar_file_uris e specifica il nome della classe principale in main_class . driver può essere solo uno dei seguenti: |
|
main |
Facoltativo. L'URI HCFS del file jar contenente la classe principale. |
main |
Facoltativo. Il nome della classe principale del driver. Il file jar che contiene la classe deve trovarsi nel percorso di classe o essere specificato in |
SparkRBatch
Una configurazione per l'esecuzione di un workload batch Apache SparkR.
Rappresentazione JSON |
---|
{ "mainRFileUri": string, "args": [ string ], "fileUris": [ string ], "archiveUris": [ string ] } |
Campi | |
---|---|
main |
Obbligatorio. L'URI HCFS del file R principale da utilizzare come driver. Deve essere un file |
args[] |
Facoltativo. Gli argomenti da passare al driver Spark. Non includere argomenti che possono essere impostati come proprietà batch, ad esempio |
file |
Facoltativo. URI HCFS dei file da inserire nella directory di lavoro di ciascun esecutore. |
archive |
Facoltativo. URI HCFS degli archivi da estrarre nella directory di lavoro di ciascun esecutore. Tipi di file supportati: |
SparkSqlBatch
Una configurazione per l'esecuzione di query Apache Spark SQL come workload batch.
Rappresentazione JSON |
---|
{ "queryFileUri": string, "queryVariables": { string: string, ... }, "jarFileUris": [ string ] } |
Campi | |
---|---|
query |
Obbligatorio. L'URI HCFS dello script contenente le query Spark SQL da eseguire. |
query |
Facoltativo. Mappatura dei nomi delle variabili di query ai valori (equivalente al comando Spark SQL: Un oggetto contenente un elenco di coppie |
jar |
Facoltativo. URI HCFS dei file jar da aggiungere al CLASSPATH di Spark. |
Stato
Lo stato del batch.
Enum | |
---|---|
STATE_UNSPECIFIED |
Lo stato del batch è sconosciuto. |
PENDING |
Il batch viene creato prima dell'esecuzione. |
RUNNING |
Il batch è in esecuzione. |
CANCELLING |
L'annullamento del batch è in corso. |
CANCELLED |
L'annullamento collettivo è andato a buon fine. |
SUCCEEDED |
Il batch è stato completato correttamente. |
FAILED |
Il batch non è più in esecuzione a causa di un errore. |
StateHistory
Informazioni sullo stato storico.
Rappresentazione JSON |
---|
{
"state": enum ( |
Campi | |
---|---|
state |
Solo output. Lo stato del batch in questo momento della cronologia. |
state |
Solo output. Dettagli sullo stato in questo momento della cronologia. |
state |
Solo output. L'ora in cui il batch è passato allo stato storico. Un timestamp in formato "Zulu" UTC RFC3339, con risoluzione a livello di nanosecondo e fino a nove cifre frazionarie. Esempi: |