Prima di creare un job di trasferimento del file system, devi abilitare le le API e installare Docker.
Se ricevi errori durante la configurazione iniziale, verifica che l'utente con cui hai eseguito l'accesso dispone delle autorizzazioni necessarie per eseguire la procedura di configurazione. In molti casi, queste autorizzazioni non sono disponibili per tutti gli utenti e potresti dover contattare un amministratore del progetto per ricevere assistenza.
Requisiti di sistema
Per utilizzare Storage Transfer Service per i trasferimenti del file system, devi disporre di:
Un'origine e/o una destinazione compatibili con POSIX.
in un bucket Cloud Storage senza criteri di conservazione. Per eseguire il trasferimento in un bucket con un criterio di conservazione, consulta Trasferire in un bucket con un criterio di conservazione.
Le porte TCP 80 (HTTP) e 443 (HTTPS) sono aperte per le connessioni in uscita.
Di seguito sono elencati i requisiti per l'agente di trasferimento:
Un server o una macchina virtuale Linux a 64 bit supportata da Docker che possa accedere ai dati che prevedi di trasferire. Docker Community Edition supporta i sistemi operativi CentOs, Debian, Fedora e Ubuntu.
Per utilizzare altri sistemi operativi Linux, vedi Docker Enterprise
Almeno 8 GB di memoria per container e almeno quattro CPU per essere il massimo efficace.
Eventuali vincoli a livello di sistema o utente sul numero di ID processo consentiti, ad esempio quelli configurati con
ulimit -u
, devono tenere conto del numero di agenti che prevedi di eseguire. Ogni processo dell'agente può creare fino a diverse centinaia di thread. Ti consigliamo di rimuovere i limiti di ID processo quando esegui gli agenti di trasferimento.Clienti che utilizzano Podman per creare container di agenti devi specificare Valore
--pids-limit
sufficientemente alto da contenere l'agente Storage Transfer Service thread. Il valore predefinito di--pids-limit
è 2048, il che potrebbe causare problemi quando viene eseguito più di un agente. Ti consigliamo di impostare--pids-limit=-1
per consentire un numero illimitato di ID processo per container.
Limitazioni di scalabilità per job e agenti
Storage Transfer Service prevede le seguenti restrizioni di scalabilità per i job di trasferimento Agenti:
- Meno di un miliardo di file per job
- Il limite di larghezza di banda deve essere superiore a 1 MB/s
- Fino a 100 agenti per pool di agenti
- Fino a 800 pool di agenti per progetto
Abilita API
-
Enable the Google Storage Transfer API.
Installa Docker
Installa Docker Community Edition su una macchina Linux fisica o virtuale:
curl -fsSL https://get.docker.com -o get-docker.sh
sudo sh get-docker.sh
sudo systemctl enable docker
Se si verifica un errore di installazione, consulta la sezione Risoluzione dei problemi.
Consenti a Docker di eseguire l'autenticazione
Per consentire l'autenticazione di un container Docker mediante le credenziali predefinite di gcloud
, crea un volume Docker contenente un file con le credenziali predefinite dell'applicazione eseguendo il seguente comando:
sudo docker run -ti --name gcloud-config google/cloud-sdk gcloud auth application-default login
Passaggi successivi
- Configurare le autorizzazioni di Google Cloud
- Crea un pool di agenti
- Installare gli agenti di trasferimento
- Creare un job di trasferimento
- Massimizza le prestazioni dell'agente di trasferimento