Dataproc Jupyter 구성요소

선택적 구성요소 기능을 사용하여 Dataproc 클러스터를 만들 때 추가 구성요소를 설치할 수 있습니다. 이 페이지에서는 Jupyter 구성요소에 대해 설명합니다.

Jupyter 구성요소는 대화형 데이터 분석을 위한 웹 기반 메모장이며 JupyterLab 웹 UI를 지원합니다. Jupyter 웹 UI는 클러스터의 첫 번째 마스터 노드에 있는 포트 8123에서 사용할 수 있습니다.

Jupyter 메모장은 Spark 코드를 실행하는 Python 커널과 PySpark 커널을 제공합니다. 기본적으로 메모장은 사용자가 지정하거나 클러스터를 만들 때 자동 생성되는 Cloud Dataproc 스테이징 버킷의 Cloud Storage에 저장됩니다. 위치는 클러스터 생성 시 dataproc:jupyter.notebook.gcs.dir 속성을 통해 변경할 수 있습니다.

Jupyter 설치

Dataproc 클러스터를 만들 때 구성요소를 설치합니다. 구성요소는 Dataproc 버전 1.3 이상으로 만든 클러스터에 추가할 수 있습니다. 2.0 이미지가 아닌 Dataproc 이미지 버전을 사용하려면 Jupyter 구성요소에 Anaconda 구성요소가 설치되어 있어야 합니다(2.0 이미지를 사용하는 경우에는 Anaconda 구성요소 설치가 필요하지 않거나 사용할 수 없음).

각 Dataproc 이미지 출시에 포함된 구성요소 버전은 지원되는 Dataproc 버전을 참조하세요.

gcloud 명령어

Jupyter 구성요소가 포함된 Dataproc 클러스터를 만들려면 gcloud dataproc clusters create cluster-name 명령어를 --optional-components 플래그와 함께 사용합니다. 아래 예시에서는 Jupyter 및 Anaconda 구성요소를 모두 설치합니다(2.0 이미지를 사용할 경우 Anaconda 구성요소 설치가 필요하지 않거나 사용할 수 없음).

gcloud dataproc clusters create cluster-name \
    --optional-components=ANACONDA,JUPYTER \
    --region=region \
    --enable-component-gateway \
    ... other flags

REST API

Jupyter 및 Anaconda 구성요소는 SoftwareConfig.Componentclusters.create 요청 중에 사용하여 Dataproc API를 통해 지정할 수 있습니다(2.0 이미지를 사용할 경우 Anaconda 구성요소 설치가 필요하지 않거나 사용할 수 없음)

Console

  1. 구성요소 및 구성요소 게이트웨이를 사용 설정합니다.
    • Cloud Console에서 Dataproc 클러스터 만들기 페이지를 엽니다. 클러스터 설정 패널이 선택되었습니다.
    • 구성요소 섹션에서 다음을 수행합니다.
      • 선택적 구성요소 아래에서 클러스터에 설치할 Anaconda, Jupyter 및 기타 선택적인 구성요소를 선택합니다. 참고: 2.0 이미지를 사용하는 경우 Anaconda 구성요소 설치가 필요하지 않거나 사용할 수 없습니다.
      • 구성요소 게이트웨이 아래에서 구성요소 게이트웨이 사용 설정을 선택합니다(구성요소 게이트웨이 URL 보기 및 액세스 참조).

Jupyter 및 JupyterLab UI 열기

로컬 브라우저에서 클러스터의 마스터 노드에서 실행되는 Jupyter 메모장 또는 JupyterLab UI를 열려면 Cloud Console 구성요소 게이트웨이 링크를 클릭합니다.

'GCS' 또는 '로컬 디스크'를 선택하여 두 위치 중 한 곳에 새로운 Jupyter 메모장을 만듭니다.

마스터 노드 또는 워커 노드에 GPU 연결

Jupyter 메모장을 사용하여 클러스터의 마스터 및 워커 노드에 GPU를 추가할 수 있습니다.

  1. Spark에서 데이터를 사전 처리한 다음 마스터에 DataFrame을 수집하고 TensorFlow를 실행합니다.
  2. Spark를 사용하여 TensorFlow 실행을 동시에 조정하기
  3. Tensorflow-on-YARN 실행하기
  4. GPU를 사용하는 다른 머신 러닝 시나리오에서 사용하기