프로덕션 실행 예약
이 빠른 시작에서는 Dataform에서 프로덕션 실행을 예약하는 다음과 같은 단계를 안내합니다.
- Dataform 저장소 만들기
- BigQuery에 Dataform에 대한 액세스 권한을 부여합니다.
-
production
컴파일 결과를 만드는 빈도로production
출시 구성을 만듭니다. 프로덕션 환경에서 실행을 예약하는 워크플로 구성을 만듭니다.
production
워크플로 구성을 만들고,production
출시 구성을 선택하고,production
컴파일 결과 실행 예약을 설정합니다.
시작하기 전에
- Sign in to your Google Cloud account. If you're new to Google Cloud, create an account to evaluate how our products perform in real-world scenarios. New customers also get $300 in free credits to run, test, and deploy workloads.
-
In the Google Cloud console, on the project selector page, select or create a Google Cloud project.
-
Make sure that billing is enabled for your Google Cloud project.
-
Enable the BigQuery and Dataform APIs.
-
In the Google Cloud console, on the project selector page, select or create a Google Cloud project.
-
Make sure that billing is enabled for your Google Cloud project.
-
Enable the BigQuery and Dataform APIs.
필요한 역할
이 튜토리얼의 모든 태스크를 수행하는 데 필요한 권한을 얻으려면 관리자에게 다음 IAM 역할을 부여해 달라고 요청하세요.
-
저장소에 대한Dataform 관리자(
roles/dataform.admin
) -
작업공간 및 workflowInvocations의 Dataform 편집자(
roles/dataform.editor
)
역할 부여에 대한 자세한 내용은 프로젝트, 폴더, 조직에 대한 액세스 관리를 참조하세요.
Dataform 저장소 만들기
Google Cloud 콘솔에서 Dataform 페이지로 이동합니다.
저장소 만들기를 클릭합니다.
저장소 만들기 페이지에서 다음을 수행합니다.
저장소 ID 필드에
quickstart-production
을 입력합니다.리전 목록에서
europe-west4
을 선택합니다.만들기를 클릭합니다.
완료를 클릭합니다.
BigQuery에 Dataform 액세스 권한 부여
BigQuery에서 워크플로를 실행하려면 Dataform 서비스 계정에 다음과 같은 필수 역할이 있어야 합니다.
- Dataform에 읽기 및 쓰기 액세스 권한이 모두 필요한 프로젝트에 대한 BigQuery 데이터 편집자. 여기에는 일반적으로 Dataform 저장소를 호스팅하는 프로젝트가 포함됩니다.
- Dataform에 읽기 전용 액세스 권한이 필요한 프로젝트에 대한 BigQuery 데이터 뷰어
- Dataform 저장소를 호스팅하는 프로젝트에 대한 BigQuery 작업 사용자
이러한 역할을 부여하려면 다음 단계를 수행합니다.
Google Cloud 콘솔에서 IAM 페이지로 이동합니다.
추가를 클릭합니다.
새 주 구성원 필드에 Dataform 서비스 계정 ID를 입력합니다.
역할 선택 드롭다운 목록에서 BigQuery 작업 사용자 역할을 선택합니다.
다른 역할 추가를 클릭한 다음 역할 선택 드롭다운 목록에서 BigQuery 데이터 편집자 역할을 선택합니다.
다른 역할 추가를 클릭한 다음 역할 선택 드롭다운 목록에서 BigQuery 데이터 뷰어 역할을 선택합니다.
저장을 클릭합니다.
출시 구성 만들기
quickstart-production
저장소의 프로덕션 컴파일 결과를 만들려면 다음 단계를 수행합니다.
Google Cloud 콘솔에서 Dataform 페이지로 이동합니다.
quickstart-production
를 클릭합니다.출시 구성을 클릭한 후 새 출시 구성을 클릭합니다.
출시 구성 만들기 창에서 다음 설정을 구성합니다.
출시 ID 필드에
production
을 입력합니다.Git commitish 필드에 기본값
main
을 그대로 둡니다.실행 빈도 드롭다운에서 커스텀을 선택합니다.
커스텀 예약 필드에
0 16 * * *
를 입력합니다.시간대 드롭다운에서 UTC+1 시간대(예: 그리니치 표준시(GMT))를 선택합니다.
Dataform은 매일 오후 4시(UTC+1)에
quickstart-production
저장소를 컴파일하고 이 출시 구성에 구성된 컴파일 설정을 적용하여production
컴파일 결과를 만듭니다.만들기를 클릭합니다.
production
출시 구성은 매일 오후 4시(UTC+1)에 전체 quickstart-production
저장소의 컴파일 결과를 만듭니다.
워크플로 구성 만들기
production
테이블 실행을 예약하려면 다음 단계를 수행합니다.
Google Cloud 콘솔에서 Dataform 페이지로 이동합니다.
quickstart-production
를 클릭합니다.워크플로 구성를 클릭한 후 새 워크플로 구성을 클릭합니다.
워크플로 구성 만들기 창의 구성 ID 필드에
production
을 입력합니다.출시 구성 드롭다운에서
production
을 선택합니다.빈도 필드에
0 17 * * *
를 입력합니다.시간대 드롭다운에서 UTC+1 시간대(예: 그리니치 표준시(GMT))를 선택합니다.
Dataform은 매일 오후 5시(UTC+1)에
quickstart-production
저장소의 최신production
컴파일 결과를 실행합니다.Dataform이 해당 출시 구성에서 최신 컴파일 결과를 실행하도록 하려면 컴파일 결과 생성 시간과 예약된 실행 시간 사이의 공백이 최소 1시간 이상 유지되도록 합니다.
모든 작업을 클릭합니다.
Dataform은
production
컴파일 결과에서 모든 SQL 워크플로 작업을 실행합니다.만들기를 클릭합니다.
production
워크플로 구성은 매일 오후 4시(UTC+1)에 production
출시 구성에서 만든 최신 컴파일 결과 전체를 실행합니다.
이전 production
컴파일 결과 보기
이전에 예약된 production
컴파일 결과를 보려면 다음 단계를 따르세요.
Google Cloud 콘솔에서 Dataform 페이지로 이동합니다.
quickstart-production
를 클릭합니다.출시 구성을 클릭합니다.
production
를 클릭합니다.
이전 production
워크플로 실행 보기
이전 production
워크플로 실행을 보려면 다음 단계를 수행합니다.
Google Cloud 콘솔에서 Dataform 페이지로 이동합니다.
quickstart-production
를 클릭합니다.워크플로 구성을 클릭합니다.
삭제
이 페이지에서 사용한 리소스 비용이 Google Cloud 계정에 청구되지 않도록 하려면 다음 단계를 수행합니다.
BigQuery에서 만든 데이터 세트 삭제
BigQuery 애셋에 대한 요금이 청구되지 않도록 하려면 다음 단계에 따라 dataform_production
이라는 데이터 세트를 삭제하세요.
Google Cloud 콘솔에서 BigQuery 페이지로 이동합니다.
탐색기 패널에서 프로젝트를 확장하고
dataform_production
을 선택합니다.작업 메뉴를 클릭한 후 삭제를 클릭합니다.
데이터 세트 삭제 대화상자에 delete를 입력한 후 삭제를 클릭합니다.
Dataform 출시 구성 삭제
Dataform 출시 구성을 만드는 데에는 비용이 발생하지 않습니다. 하지만 production
출시 구성을 삭제하려면 다음 단계를 수행합니다.
Google Cloud 콘솔에서 Dataform 페이지로 이동합니다.
quickstart-production
를 클릭합니다.출시 구성을 클릭합니다.
production
출시 구성에서 더보기 메뉴를 클릭한 후 삭제를 클릭합니다.출시 구성 삭제 대화상자에서 삭제를 클릭합니다.
Dataform 워크플로 구성 삭제
BigQuery 애셋에 대한 요금이 청구되지 않도록 하려면 다음 단계에 따라 Dataform production
워크플로 구성을 삭제합니다.
Google Cloud 콘솔에서 Dataform 페이지로 이동합니다.
quickstart-production
를 클릭합니다.워크플로 구성을 클릭합니다.
production
워크플로 구성에서 더보기 메뉴를 클릭한 다음 삭제를 클릭합니다.출시 구성 삭제 대화상자에서 삭제를 클릭합니다.
Dataform 저장소 삭제
Dataform 저장소를 만드는 데에는 비용이 발생하지 않습니다. 그러나 저장소와 저장소의 모든 콘텐츠를 삭제하려면 다음 단계를 수행합니다.
Google Cloud 콘솔에서 Dataform 페이지로 이동합니다.
quickstart-production
까지 더보기 메뉴를 클릭한 다음 삭제를 선택합니다.저장소 삭제 창에서 저장소 이름을 입력하여 삭제를 확인합니다.
확인하려면 삭제를 클릭합니다.
다음 단계
Dataform의 코드 수명 주기에 대한 자세한 내용은 Dataform의 코드 수명 주기 소개를 참조하세요.
Dataform의 코드 수명 주기 권장사항에 대한 자세한 내용은 코드 수명 주기 관리를 참조하세요.
Dataform의 출시 구성에 대한 자세한 내용은 출시 구성 만들기를 참조하세요.
Dataform의 워크플로 구성에 대한 자세한 내용은 워크플로 구성으로 실행 예약을 참조하세요.