YouTube 채널 전송

YouTube용 BigQuery Data Transfer Service를 사용하면 YouTube 채널 보고서와 관련한 반복적인 로드 작업을 자동으로 예약하고 관리할 수 있습니다.

지원되는 보고서

채널 보고서(BigQuery에 자동으로 로드됨)

YouTube 채널 보고서용 BigQuery Data Transfer Service는 다음과 같은 보고 옵션을 지원합니다.

보고 옵션	지원
지원되는 API 버전	2018년 6월 18일
일정	매일 14시 10분 무렵(UTC) 시간은 구성 가능합니다.
새로고침 기간	지난 1일 구성할 수 없음
최대 백필 기간	30일 2018년 7월부터 이전 데이터가 포함된 YouTube 보고서를 생성된 시점부터 30일 동안 사용할 수 있습니다. 이전 데이터 외의 데이터가 포함된 보고서는 60일 동안 사용할 수 있습니다. 자세한 내용은 YouTube Reporting API 문서의 Historical data(이전 데이터)를 참조하세요.

YouTube 채널 보고서가 BigQuery 테이블 및 뷰로 전송되는 방식에 대한 자세한 내용은 YouTube 채널 보고서 변환을 참조하세요.

YouTube 채널 전송에서 데이터 수집

YouTube 채널에서 BigQuery로 데이터를 전송할 때는 데이터가 날짜별로 파티션을 나눈 BigQuery 테이블에 로드됩니다. 데이터가 로드되는 테이블 파티션은 데이터 소스의 날짜에 해당합니다. 동일한 날짜에 여러 전송을 예약하면 BigQuery Data Transfer Service가 해당 날짜의 파티션을 최신 데이터로 덮어씁니다. 동일한 일자에 전송이 여러 개 있거나 백필을 실행해도 데이터가 중복되지 않으며 다른 일자의 파티션에 영향을 주지 않습니다.

제한사항

각 보고서에 지원되는 최대 파일 크기는 1,710GB입니다.
데이터 전송을 예약할 수 있는 최소 빈도는 24시간에 한 번입니다. 기본적으로 전송은 사용자가 전송을 만드는 시간에 시작됩니다. 하지만 전송을 설정할 때 전송 시작 시간을 구성할 수 있습니다.
BigQuery Data Transfer Service는 YouTube 콘텐츠 소유자 전송 중 증분 전송을 지원하지 않습니다. 데이터 전송에 대해 날짜를 지정하면 해당 날짜에 사용 가능한 모든 데이터가 전송됩니다.
제휴 ID로 로그인한 경우 YouTube 채널 전송을 만들 수 없습니다. Google 계정을 사용해서 로그인한 상태에서만 YouTube 채널 전송을 만들 수 있습니다.

시작하기 전에

YouTube 채널 전송을 생성하기 전에 다음을 수행하세요.

BigQuery Data Transfer Service 사용 설정에 필요한 모든 작업을 완료했는지 확인합니다.
YouTube 데이터를 저장할 BigQuery 데이터세트를 만듭니다.

필수 권한

YouTube 채널 전송을 만들려면 다음이 필요합니다.

YouTube: YouTube 채널 소유권
BigQuery: BigQuery의 다음 Identity and Access Management(IAM) 권한
- 전송을 만들기 위한 bigquery.transfers.update
- 대상 데이터 세트에 대한 bigquery.datasets.get 및 bigquery.datasets.update
- Pub/Sub의 전송 실행 알림을 설정하려면 pubsub.topics.setIamPolicy 권한이 있어야 합니다. 이메일 알림만 설정한다면 Pub/Sub 권한이 필요하지 않습니다. 자세한 내용은 BigQuery Data Transfer Service 실행 알림을 참조하세요.

사전 정의된 IAM 역할 bigquery.admin에는 YouTube 채널 전송을 만드는 데 필요한 모든 BigQuery 권한이 포함됩니다. BigQuery에서 IAM 역할에 대한 자세한 내용은 사전 정의된 역할 및 권한을 참조하세요.

YouTube 채널 전송 설정

YouTube 채널 전송을 설정하려면 다음 요소가 필요합니다.

테이블 서픽스: 전송을 설정할 때 제공되는 사용자 친화적인 채널 이름입니다. 테이블 이름을 만들 때 이 서픽스가 작업 ID에 추가됩니다(예: reportTypeId_suffix). 서픽스는 동일한 테이블에 개별 전송이 기록되는 경우를 방지하려는 목적으로 사용합니다. 테이블 서픽스는 같은 데이터 세트에 데이터를 로드하는 모든 전송에서 고유해야 하며 결과 테이블 이름의 길이를 최소화하도록 짧은 서픽스를 사용해야 합니다.

현재 YouTube Reporting API를 사용하며 기존 보고 작업이 있다면 BigQuery Data Transfer Service는 사용자의 보고 데이터를 로드합니다. 기존 보고 작업이 없다면 전송 설정 시 자동으로 YouTube 보고 작업이 사용 설정됩니다.

YouTube 채널 전송을 만들려면 다음 안내를 따르세요.

Console

Google Cloud 콘솔에서 BigQuery 페이지로 이동합니다.

BigQuery 페이지로 이동
전송을 클릭합니다.
전송 만들기를 클릭합니다.
전송 만들기 페이지에서 다음을 수행합니다.
- 소스 유형 섹션에서 소스에 YouTube 채널을 선택합니다.
- 전송 구성 이름 섹션의 표시 이름에 전송 이름(예: My Transfer)을 입력합니다. 전송 이름은 나중에 수정해야 할 경우에 전송을 식별할 수 있는 값이면 됩니다.
- 일정 옵션 섹션에서 다음을 수행합니다.
  - 반복 빈도에 대해 전송을 실행하려는 빈도 옵션을 선택합니다. 일을 선택한 경우 UTC로 유효한 시간을 제공합니다.
    - 시간
    - 일
    - 주문형
  - 해당하는 경우 지금 시작 또는 설정 시간에 시작을 선택하고 시작 날짜와 실행 시간을 제공합니다.
- 대상 설정 섹션의 대상 데이터세트에서 데이터를 저장하기 위해 만든 데이터세트를 선택합니다.
- 데이터 소스 세부정보 섹션에서 다음을 수행합니다.
  - 테이블 서픽스에 서픽스(예: MT)를 입력합니다.
  - BigQuery에서 자동으로 YouTube 보고 작업을 관리할 수 있도록 작업 구성 체크박스를 선택합니다. 현재 계정에 존재하지 않는 YouTube 보고서가 있다면 해당 보고서를 사용할 수 있도록 새로운 보고 작업이 생성됩니다.
- (선택사항) 알림 옵션 섹션에서 다음을 수행합니다.
  - 전환을 클릭해서 이메일 알림을 사용 설정합니다. 이 옵션을 사용 설정하면 전송 실행이 실패할 때 전송 관리자에게 이메일 알림이 발송됩니다.
  - Pub/Sub 주제 선택에서 주제 이름을 선택하거나 주제 만들기를 클릭합니다. 이 옵션은 전송에 대한 Pub/Sub 실행 알림을 구성합니다.
저장을 클릭합니다.

bq

bq mk 명령어를 입력하고 전송 생성 플래그 --transfer_config를 지정합니다. 다음 플래그도 필요합니다.

--data_source
--target_dataset
--display_name
--params

bq mk \
--transfer_config \
--project_id=project_id \
--target_dataset=dataset \
--display_name=name \
--params='parameters' \
--data_source=data_source

각 항목의 의미는 다음과 같습니다.

project_id는 프로젝트 ID입니다.
dataset는 전송 구성 대상 데이터 세트입니다.
name은 전송 구성의 표시 이름입니다. 전송 이름은 나중에 수정해야 할 경우에 전송을 쉽게 식별할 수 있는 값이면 됩니다.
parameters에는 JSON 형식으로 생성된 전송 구성의 매개변수가 있습니다. 예를 들면 --params='{"param":"param_value"}'입니다. YouTube 채널 전송의 경우 table_suffix 매개변수를 지정해야 합니다. 필요한 경우 BigQuery Data Transfer Service가 사용자를 대신해 YouTube 보고 작업을 관리할 수 있도록 configure_jobs 매개변수를 true로 설정할 수도 있습니다. 현재 채널에 존재하지 않는 YouTube 보고서가 있으면 해당 보고서를 사용할 수 있도록 새로운 보고 작업이 생성됩니다.
data_source는 데이터 소스(youtube_channel)입니다.

또한 --project_id 플래그를 입력하여 특정 프로젝트를 지정할 수도 있습니다. --project_id를 지정하지 않으면 기본 프로젝트가 사용됩니다.

예를 들어 다음 명령어는 테이블 서픽스 MT를 사용하여 My Transfer라는 YouTube 채널 전송을 만들고 대상 데이터 세트 mydataset를 만듭니다. 기본 프로젝트에 전송이 생성됩니다.

bq mk \
--transfer_config \
--target_dataset=mydataset \
--display_name='My Transfer' \
--params='{"table_suffix":"MT","configure_jobs":"true"}' \
--data_source=youtube_channel

API

projects.locations.transferConfigs.create 메서드를 사용하고 TransferConfig 리소스의 인스턴스를 지정합니다.

Java

이 샘플을 사용해 보기 전에 BigQuery 빠른 시작: 클라이언트 라이브러리 사용의 Java 설정 안내를 따르세요. 자세한 내용은 BigQuery Java API 참고 문서를 확인하세요.

BigQuery에 인증하려면 애플리케이션 기본 사용자 인증 정보를 설정합니다. 자세한 내용은 클라이언트 라이브러리의 인증 설정을 참조하세요.

import com.google.api.gax.rpc.ApiException;
import com.google.cloud.bigquery.datatransfer.v1.CreateTransferConfigRequest;
import com.google.cloud.bigquery.datatransfer.v1.DataTransferServiceClient;
import com.google.cloud.bigquery.datatransfer.v1.ProjectName;
import com.google.cloud.bigquery.datatransfer.v1.TransferConfig;
import com.google.protobuf.Struct;
import com.google.protobuf.Value;
import java.io.IOException;
import java.util.HashMap;
import java.util.Map;

// Sample to create youtube channel transfer config.
public class CreateYoutubeChannelTransfer {

  public static void main(String[] args) throws IOException {
    // TODO(developer): Replace these variables before running the sample.
    final String projectId = "MY_PROJECT_ID";
    String datasetId = "MY_DATASET_ID";
    String tableSuffix = "_test";
    Map<String, Value> params = new HashMap<>();
    params.put("table_suffix", Value.newBuilder().setStringValue(tableSuffix).build());
    TransferConfig transferConfig =
        TransferConfig.newBuilder()
            .setDestinationDatasetId(datasetId)
            .setDisplayName("Your Youtube Channel Config Name")
            .setDataSourceId("youtube_channel")
            .setParams(Struct.newBuilder().putAllFields(params).build())
            .build();
    createYoutubeChannelTransfer(projectId, transferConfig);
  }

  public static void createYoutubeChannelTransfer(String projectId, TransferConfig transferConfig)
      throws IOException {
    try (DataTransferServiceClient client = DataTransferServiceClient.create()) {
      ProjectName parent = ProjectName.of(projectId);
      CreateTransferConfigRequest request =
          CreateTransferConfigRequest.newBuilder()
              .setParent(parent.toString())
              .setTransferConfig(transferConfig)
              .build();
      TransferConfig config = client.createTransferConfig(request);
      System.out.println("Youtube channel transfer created successfully :" + config.getName());
    } catch (ApiException ex) {
      System.out.print("Youtube channel transfer was not created." + ex.toString());
    }
  }
}

데이터 쿼리

BigQuery로 전송되는 데이터는 내부 데이터화 시간별로 파티션을 나눈 테이블에 기록됩니다. 자세한 내용은 파티션을 나눈 테이블 소개를 참조하세요.

자동 생성된 뷰를 사용하지 않고 직접 테이블을 쿼리하는 경우에는 쿼리에서 _PARTITIONTIME 유사 열을 사용해야 합니다. 자세한 내용은 파티션을 나눈 테이블 쿼리를 참조하세요.

YouTube 채널 전송 설정 문제 해결

전송을 설정하는 데 문제가 있다면 전송 구성 문제 해결의 YouTube 전송 문제를 참조하세요.