빠른 시작: Cloud Console을 사용하여 Dataproc 클러스터 만들기

Cloud Console을 사용하여 Dataproc 클러스터 만들기

이 페이지에서는 Google Cloud Console을 사용하여 Dataproc 클러스터를 만들고 클러스터에서 기본적인 Apache Spark 작업을 실행한 다음 클러스터의 작업자 수를 수정하는 방법을 보여줍니다.


Cloud Console에서 직접 이 태스크를 수행하는 방법에 대한 단계별 안내를 보려면 둘러보기를 클릭합니다.

둘러보기


다음 섹션에서는 둘러보기를 클릭할 때와 동일한 단계를 수행합니다.

시작하기 전에

  1. Google Cloud 계정에 로그인합니다. Google Cloud를 처음 사용하는 경우 계정을 만들고 Google 제품의 실제 성능을 평가해 보세요. 신규 고객에게는 워크로드를 실행, 테스트, 배포하는 데 사용할 수 있는 $300의 무료 크레딧이 제공됩니다.
  2. Google Cloud Console의 프로젝트 선택기 페이지에서 Google Cloud 프로젝트를 선택하거나 만듭니다.

    프로젝트 선택기로 이동

  3. Cloud 프로젝트에 결제가 사용 설정되어 있는지 확인합니다. 프로젝트에 결제가 사용 설정되어 있는지 확인하는 방법을 알아보세요.

  4. Dataproc API 사용 설정

    API 사용 설정

  5. Google Cloud Console의 프로젝트 선택기 페이지에서 Google Cloud 프로젝트를 선택하거나 만듭니다.

    프로젝트 선택기로 이동

  6. Cloud 프로젝트에 결제가 사용 설정되어 있는지 확인합니다. 프로젝트에 결제가 사용 설정되어 있는지 확인하는 방법을 알아보세요.

  7. Dataproc API 사용 설정

    API 사용 설정

클러스터 만들기

  1. Cloud Console에서 Dataproc 클러스터 페이지로 이동합니다.

    클러스터로 이동

  2. 클러스터 만들기를 클릭합니다.

  3. Dataproc 클러스터 만들기 대화상자의 Compute Engine의 클러스터 행에서 만들기를 클릭합니다.

  4. 클러스터 이름 필드에 example-cluster를 입력합니다.

  5. 리전영역 목록에서 리전과 영역을 선택합니다.

    특정 리전(예: us-east1 또는 europe-west1)을 선택하여 Dataproc이 지정된 리전에서 활용하는 가상 머신(VM) 인스턴스, Cloud Storage, 메타데이터 스토리지 위치와 같은 리소스를 격리할 수 있습니다. 또한 사용자가 지정한 Compute Engine 영역에 인스턴스를 배포할 수 있는 특수한 멀티 리전 엔드포인트인 global을 선택할 수도 있습니다. 자세한 내용은 사용 가능한 리전 및 영역리전 엔드포인트를 참조하세요.

  6. 다른 모든 옵션은 기본 설정을 사용합니다.

  7. 만들기를 클릭하여 클러스터를 만듭니다.

    새 클러스터가 클러스터 페이지의 목록에 나타납니다. 클러스터를 사용할 준비가 될 때까지 상태는 프로비저닝이 되고 상태는 실행 중으로 변경됩니다. 클러스터를 프로비저닝하는 데 몇 분 정도 걸릴 수 있습니다.

Spark 작업 제출

Pi 값을 추정하는 Spark 작업을 제출합니다.

  1. Dataproc 탐색 메뉴에서 작업을 클릭합니다.
  2. 작업 페이지에서 작업 제출을 클릭한 후 다음을 수행합니다.

    1. 클러스터 필드에서 찾아보기를 클릭합니다.
    2. example-cluster 행에서 선택을 클릭합니다.
    3. 작업 ID 필드에서 기본 설정을 사용하거나 Google Cloud 프로젝트에 고유한 ID를 제공합니다.
    4. 작업 유형으로 Spark를 선택합니다.
    5. 기본 클래스 또는 jar 필드에 org.apache.spark.examples.SparkPi를 입력합니다.
    6. Jar 파일 필드에 file:///usr/lib/spark/examples/jars/spark-examples.jar를 입력합니다.
    7. 인수 필드에 1000을 입력하여 작업 수를 설정합니다.

    8. 제출을 클릭합니다.

      작업이 작업 세부정보 페이지에 표시됩니다. 작업 상태는 실행 중 또는 시작 중 하나이며 제출 후 성공으로 변경됩니다.

      출력에서 스크롤되지 않도록 하려면 자동 줄바꿈: 사용 중지를 클릭합니다. 출력은 다음과 비슷합니다.

      Pi is roughly 3.1416759514167594
      

      작업 세부정보를 보려면 구성 탭을 클릭합니다.

클러스터 업데이트

작업자 인스턴스 수를 변경하여 클러스터를 업데이트합니다.

  1. 탐색 메뉴에서 클러스터를 클릭합니다.
  2. 클러스터 목록에서 example-cluster를 클릭합니다.
  3. 클러스터 세부정보 페이지에서 구성 탭을 클릭합니다.

    클러스터 설정이 표시됩니다.

  4. 수정을 클릭합니다.

  5. 작업자 노드 필드에 5를 입력합니다.

  6. 저장을 클릭합니다.

클러스터가 업데이트되었습니다. 작업자 노드 수를 기존 값으로 줄이려면 동일한 절차를 따릅니다.

삭제

이 페이지에서 사용한 리소스 비용이 Google Cloud 계정에 청구되지 않도록 하려면 다음 단계를 수행합니다.

  1. example-cluster클러스터 세부정보 페이지에서 삭제를 클릭하여 클러스터를 삭제합니다.
  2. 삭제를 클릭하여 클러스터를 삭제할 것인지 확인합니다.

다음 단계