Prima di creare un job di trasferimento del file system, devi attivare le API richieste e installare Docker.
Se ricevi errori durante la configurazione iniziale, verifica che l'utente con cui hai eseguito l'accesso disponga delle autorizzazioni necessarie per eseguire i passaggi di configurazione. In molti casi, queste autorizzazioni non sono disponibili per tutti gli utenti e potresti dover contattare un amministratore del progetto per ricevere assistenza.
Requisiti di sistema
Per utilizzare Storage Transfer Service per i trasferimenti del file system, devi disporre di:
Un'origine e/o una destinazione conformi a POSIX.
Un bucket Cloud Storage senza un criterio di conservazione. Per eseguire il trasferimento in un bucket con un criterio di conservazione, consulta Trasferire in un bucket con un criterio di conservazione.
Porte TCP 80 (HTTP) e 443 (HTTPS) aperte per le connessioni in uscita.
Di seguito sono elencati i requisiti per l'agente di trasferimento:
Un server o una macchina virtuale Linux a 64 bit supportata da Docker che possa accedere ai dati che prevedi di trasferire. Docker Community Edition, supporta i sistemi operativi CentOS, Debian, Fedora e Ubuntu.
Per utilizzare altri sistemi operativi Linux, consulta Docker Enterprise.
Almeno 8 GB di memoria per contenitore e almeno quattro CPU per ottenere il massimo risultati.
Eventuali limitazioni a livello di sistema o utente sul numero di ID processo consentiti, ad esempio quelli configurati con
ulimit -u
, devono tenere conto del numero di agenti che prevedi di eseguire. Ogni processo dell'agente può creare fino a diverse centinaia di thread. Ti consigliamo di rimuovere i limiti di ID processo quando esegui gli agenti di trasferimento.I clienti che utilizzano Podman per creare contenitori di agenti devono specificare un valore
--pids-limit
sufficientemente elevato da poter contenere i thread dell'agente Storage Transfer Service. Il valore predefinito di--pids-limit
è 2048, il che potrebbe causare problemi quando viene eseguito più di un agente. Ti consigliamo di impostare--pids-limit=-1
per consentire ID processo illimitati per contenitore.
Limitazioni di scalabilità per job e agenti
Storage Transfer Service presenta le seguenti limitazioni di scalabilità per i job di trasferimento e gli agenti:
- Meno di un miliardo di file per job
- Il limite di larghezza di banda deve essere superiore a 1 MB/s
- Fino a 100 agenti per pool di agenti
- Fino a 800 pool di agenti per progetto
Abilita API
-
Enable the Google Storage Transfer API.
Installa Docker
Se utilizzi Google Cloud CLI o Docker per installare ed eseguire gli agenti di trasferimento, installa Docker Engine su una macchina Linux fisica o virtuale.
Se utilizzi Podman per installare ed eseguire gli agenti di trasferimento, vai direttamente alle istruzioni di installazione specifiche per Podman.
curl -fsSL https://get.docker.com -o get-docker.sh
sudo sh get-docker.sh
sudo systemctl enable docker
Se si verifica un errore di installazione, consulta la sezione Risoluzione dei problemi.
Consenti a Docker di autenticarsi
Per consentire l'autenticazione di un container Docker mediante le credenziali predefinite di gcloud
, crea un volume Docker contenente un file con le credenziali predefinite dell'applicazione eseguendo il seguente comando:
sudo docker run -ti --name gcloud-config google/cloud-sdk gcloud auth application-default login
Passaggi successivi
- Configurare le autorizzazioni di Google Cloud
- Creare un pool di agenti
- Installa gli agenti di trasferimento
- Creare un job di trasferimento
- Massimizzare il rendimento dell'agente di trasferimento