파일 시스템 전송 작업을 만들기 전에 필요한 API를 사용 설정하고 Docker를 설치해야 합니다.
최초 설정을 수행하는 동안 오류가 발생하면 로그인한 사용자에게 설정 단계를 수행하는 데 필요한 권한이 있는지 확인합니다. 대부분의 경우 이러한 권한을 모든 사용자가 사용할 수 있는 것은 아니며, 프로젝트 관리자에게 문의하여 지원을 받아야 할 수 있습니다.
시스템 요구사항
파일 시스템 전송에 Storage Transfer Service를 사용하려면 다음 항목이 필요합니다.
POSIX 준수 소스 또는 대상
보존 정책이 적용되지 않은 Cloud Storage 버킷. 보존 정책이 적용된 버킷으로 전송하려면 보존 정책이 적용된 버킷으로 전송을 참조하세요.
아웃바운드 연결을 위해 열려 있는 TCP 포트 80(HTTP) 및 443(HTTPS).
전송 에이전트 머신 요구사항은 다음과 같습니다.
전송하려는 데이터에 액세스할 수 있는 Docker 지원 64비트 Linux 서버 또는 가상 머신 CentOS, Debian, Fedora, Ubuntu 운영체제를 지원하는 Docker Community Edition
다른 Linux 운영체제를 사용하려면 Docker Enterprise를 참조하세요.
가장 효과적이려면 컨테이너당 최소 8GB 메모리와 최소 4개 CPU가 필요합니다.
ulimit -u
로 구성된 것과 같이 허용된 프로세스 ID의 수에 대한 시스템 수준 또는 사용자 수준 제약조건은 실행할 에이전트 수를 고려해야 합니다. 각 에이전트 프로세스는 최대 수백 개의 스레드를 만들 수 있습니다. 전송 에이전트를 실행할 때 프로세스 ID 한도를 삭제하는 것이 좋습니다.Podman을 사용하여 에이전트 컨테이너를 만드는 고객은 Storage Transfer Service 에이전트 스레드를 수용할 만큼 충분히 높은
--pids-limit
값을 지정해야 합니다.--pids-limit
의 기본값은 2,048이므로 에이전트를 두 개 이상 실행할 때 문제가 발생할 수 있습니다. 컨테이너당 무제한 프로세스 ID를 허용하도록--pids-limit=-1
을 설정하는 것이 좋습니다.
작업 및 에이전트의 확장 제한사항
Storage Transfer Service는 전송 작업과 에이전트에 다음과 같은 확장 제한사항이 적용됩니다.
- 작업당 10억 개 미만의 파일
- 대역폭 한도는 1MBps를 초과해야 합니다.
- 에이전트 풀당 최대 100개의 에이전트
- 프로젝트당 최대 800개의 에이전트 풀
API 사용 설정
-
Enable the Google Storage Transfer API.
Docker 설치
물리적 또는 가상 Linux 머신에 Docker Community Edition을 설치합니다.
curl -fsSL https://get.docker.com -o get-docker.sh
sudo sh get-docker.sh
sudo systemctl enable docker
설치 오류가 발생하면 문제 해결을 참조하세요.
Docker 인증 허용
Docker 컨테이너에서 gcloud
기본 사용자 인증 정보로 인증하도록 하려면 다음 명령어를 실행해 애플리케이션 기본 사용자 인증 정보가 있는 파일을 포함한 Docker 볼륨을 만드세요.
sudo docker run -ti --name gcloud-config google/cloud-sdk gcloud auth application-default login