Puoi caricare nella tua istanza Vertex AI TensorBoard i log esistenti creati con l'addestramento locale, con l'addestramento al di fuori di Vertex AI, creati da un collega, che sono log di esempio o che sono stati creati utilizzando un'altra istanza Vertex AI TensorBoard. I log possono essere condivisi tra più istanze di Vertex AI TensorBoard.
Vertex AI TensorBoard offre Google Cloud CLI e l'SDK Vertex AI per Python per il caricamento dei log di TensorBoard. Puoi caricare i log da qualsiasi ambiente che può connettersi a Google Cloud.
SDK Vertex AI per Python
Monitoraggio continuo
Per il monitoraggio continuo, chiama aiplatform.start_upload_tb_log
all'inizio
dell'addestramento.
L'SDK apre un nuovo thread per il caricamento. Questo thread monitora la presenza di nuovi dati nella directory e li carica nell'esperimento Vertex AI TensorBoard.
Al termine dell'addestramento, chiama end_upload_tb_log
per terminare il thread dell'utente che carica i contenuti.
Tieni presente che dopo aver chiamato start_upload_tb_log()
il thread verrà mantenuto attivo anche se viene generata un'eccezione. Per assicurarti che il thread venga chiuso, inserisci qualsiasi codice dopo
start_upload_tb_log()
e prima di end_upload_tb_log()
in un
istruzione try
e chiama end_upload_tb_log()
in finally
.
Python
tensorboard_experiment_name
: il nome dell'esperimento TensorBoard a cui eseguire il caricamento.logdir
: la posizione della directory in cui controllare i log di TensorBoard.tensorboard_id
: l'ID istanza TensorBoard. Se non è impostato, viene utilizzatotensorboard_id
inaiplatform.init
.project
: il tuo ID progetto. Puoi trovare l'ID progetto nella pagina di benvenuto della console Google Cloud.location
: la posizione in cui si trova l'istanza TensorBoard.experiment_display_name
: il nome visualizzato dell'esperimento.run_name_prefix
: se presente, tutte le esecuzioni create da questa chiamata avranno il nome preceduto da questo valore.description
: una descrizione di stringa da assegnare all'esperimento.
Registrazione una tantum
Carica i log di TensorBoard
Chiama aiplatform.upload_tb_log
per eseguire un caricamento una tantum dei log di TensorBoard.
I dati esistenti vengono caricati in logdir e poi restituiti immediatamente.
Python
tensorboard_experiment_name
: il nome dell'esperimento TensorBoard.logdir
: la posizione della directory in cui controllare i log di TensorBoard.tensorboard_id
: l'ID istanza TensorBoard. Se non è impostato, viene utilizzatotensorboard_id
inaiplatform.init
.project
: il tuo ID progetto. Puoi trovare questi ID progetto nella pagina di benvenuto della console Google Cloud.location
: la posizione in cui si trova l'istanza TensorBoard.experiment_display_name
: il nome visualizzato dell'esperimento.run_name_prefix
: se presente, tutte le esecuzioni create da questa chiamata avranno il nome preceduto da questo valore.description
: una descrizione di stringa da assegnare all'esperimento.verbosity
: livello di dettaglio delle statistiche, un numero intero. Valori supportati: 0: non vengono stampate statistiche di caricamento. 1 - Stampa le statistiche di caricamento durante il caricamento dei dati (impostazione predefinita).
Carica i log del profilo
Chiama aiplatform.upload_tb_log
per caricare i log del profilo TensorBoard in un esperimento.
Python
experiment_name
: il nome dell'esperimento TensorBoard.logdir
: la posizione della directory in cui controllare i log di TensorBoard.project
: il tuo ID progetto. Puoi trovare questi ID progetto nella pagina di benvenuto della console Google Cloud.location
: la posizione in cui si trova l'istanza TensorBoard.run_name_prefix
: per i dati del profilo, si tratta del prefisso dell'esecuzione. Il formato della directory in LOG_DIR deve corrispondere al seguente:/RUN_NAME_PREFIX/plugins/profile/YYYY_MM_DD_HH_SS/
allowed_plugins
: un elenco di plugin aggiuntivi da consentire. Per il caricamento dei dati del profilo, devono essere inclusi"profile"
Interfaccia a riga di comando gcloud
- (Facoltativo) Crea un ambiente virtuale dedicato per installare il client CLI Python di Vertex AI TensorBoard Uploader.
python3 -m venv PATH/TO/VIRTUAL/ENVIRONMENT source PATH/TO/VIRTUAL/ENVIRONMENT/bin/activate
PATH/TO/VIRTUAL/ENVIRONMENT
: il tuo ambiente virtuale dedicato.
- Installa il pacchetto Vertex AI TensorBoard tramite l'SDK Vertex AI.
pip install -U pip pip install google-cloud-aiplatform[tensorboard]
- Carica i log di TensorBoard
- Dati delle serie temporali e dei blob
tb-gcp-uploader --tensorboard_resource_name \
TENSORBOARD_RESOURCE_NAME
\ --logdir=LOG_DIR
\ --experiment_name=TB_EXPERIMENT_NAME
--one_shot=True - Dati del profilo
tb-gcp-uploader \ --tensorboard_resource_name
TENSORBOARD_RESOURCE_NAME
\ --logdir=LOG_DIR
--experiment_name=TB_EXPERIMENT_NAME
\ --allowed_plugins="profile" --run_name_prefix=RUN_NAME_PREFIX
\ --one_shot=True
- Dati delle serie temporali e dei blob
-
TENSORBOARD_RESOURCE_NAME
: il nome della risorsa TensorBoard usato per identificare completamente l'istanza Vertex AI TensorBoard. LOG_DIR
: la posizione dei log eventi che si trova nel file system locale o in Cloud StorageTB_EXPERIMENT_NAME
: il nome dell'esperimento TensorBoard, ad esempiotest-experiment
.RUN_NAME_PREFIX
: per i dati del profilo, si tratta del prefisso dell'esecuzione. Il formato della directory all'interno diLOG_DIR
deve corrispondere a quanto segue:/RUN_NAME_PREFIX/plugins/profile/YYYY_MM_DD_HH_SS/
Per impostazione predefinita, la CLI di uploader viene eseguita a tempo indeterminato, monitora le modifiche apportate a LOG_DIR
e carica i log appena aggiunti. --one_shot=True
disattiva il comportamento. Esegui tb-gcp-uploader --help
per ulteriori informazioni.