웹 UI를 사용하여 BigQuery ML 시작하기

이 가이드에서는 BigQuery 웹 UI를 이용하는 사용자를 위한 BigQuery ML을 소개합니다. 이 가이드의 Jupyter 노트북 기반 버전을 확인하려면 Cloud Datalab을 사용하여 BigQuery ML 시작하기를 참조하세요.

BigQuery ML을 사용하면 BigQuery에서 SQL 쿼리를 사용하여 머신러닝 모델을 만들고 실행할 수 있습니다. BigQuery ML의 목표는 SQL 실무자가 기존 도구를 사용하여 모델을 빌드할 수 있도록 지원하여 머신러닝을 대중화하고 데이터 이동의 필요성을 제거하여 개발 속도를 향상시키는 것입니다.

이 가이드에서는 BigQuery용 Google 애널리틱스 샘플 데이터세트를 사용하여 웹사이트 방문자의 트랜잭션 여부를 예측하는 모델을 만듭니다. 애널리틱스 데이터세트 스키마에 대한 자세한 내용은 Google 애널리틱스 고객센터의 BigQuery Export 스키마를 참조하세요.

목표

이 가이드에서는 다음을 사용합니다.

  • CREATE MODEL 문을 사용하여 바이너리 로지스틱 회귀 모델을 만들기 위한 BigQuery ML
  • ML 모델을 평가하는 ML.EVALUATE 함수
  • ML 모델을 사용하여 예측을 수행하는 ML.PREDICT 함수

비용

이 가이드는 비용이 청구될 수 있는 다음과 같은 Cloud Platform 구성요소를 사용합니다.

  • BigQuery
  • BigQuery ML

BigQuery 비용에 대한 자세한 내용은 BigQuery 가격 책정 페이지를 참조하세요.

BigQuery ML 비용에 대한 자세한 내용은 BigQuery ML 가격 책정 페이지를 참조하세요.

시작하기 전에

  1. Google 계정에 로그인합니다.

    아직 계정이 없으면 새 계정을 등록하세요.

  2. Google Cloud Platform 프로젝트를 선택하거나 만듭니다.

    리소스 관리 페이지로 이동

  3. Google Cloud Platform 프로젝트에 결제가 사용 설정되어 있는지 확인하세요.

    결제 사용 설정 방법 알아보기

  4. 새 프로젝트에서는 BigQuery가 자동으로 사용 설정됩니다. 기존 프로젝트에서 BigQuery를 활성화하려면 다음으로 이동하세요. BigQuery API를 사용 설정합니다.

    API 사용 설정

1단계: 데이터세트 만들기

첫 번째 단계는 ML 모델을 저장할 BigQuery 데이터세트를 만드는 것입니다. 데이터세트를 만들려면 다음 안내를 따르세요.

  1. GCP Console에서 BigQuery 웹 UI로 이동합니다.

    BigQuery 웹 UI로 이동

  2. 탐색 패널의 리소스 섹션에서 프로젝트 이름을 클릭합니다.

  3. 오른쪽의 세부정보 패널에서 데이터세트 만들기를 클릭합니다.

    데이터세트 만들기

  4. 데이터세트 만들기 페이지에서 다음 안내를 따르세요.

    • 데이터세트 IDbqml_tutorial을 입력합니다.
    • 데이터 위치미국(US)을 선택합니다. 현재 공개 데이터세트는 US 다중 리전 위치에 저장되어 있습니다. 여기에서는 편의상 같은 위치에 데이터세트를 배치해야 합니다.

      데이터세트 만들기 페이지

  5. 다른 기본 설정은 모두 그대로 두고 데이터세트 만들기를 클릭합니다.

2단계: 모델 만들기

다음으로 BigQuery용 Google 애널리틱스 샘플 데이터세트를 사용하여 로지스틱 회귀 모형을 만듭니다. 다음 표준 SQL 쿼리는 웹사이트 방문자의 트랜잭션 여부를 예측하기 위해 사용하는 모델을 만드는 데 사용됩니다.

#standardSQL
CREATE MODEL `bqml_tutorial.sample_model`
OPTIONS(model_type='logistic_reg') AS
SELECT
  IF(totals.transactions IS NULL, 0, 1) AS label,
  IFNULL(device.operatingSystem, "") AS os,
  device.isMobile AS is_mobile,
  IFNULL(geoNetwork.country, "") AS country,
  IFNULL(totals.pageviews, 0) AS pageviews
FROM
  `bigquery-public-data.google_analytics_sample.ga_sessions_*`
WHERE
  _TABLE_SUFFIX BETWEEN '20160801' AND '20170630'

CREATE MODEL 구문이 포함된 쿼리를 실행하면 모델을 만드는 것 외에도 쿼리의 SELECT 구문으로 검색한 데이터를 사용하여 모델을 학습시킬 수 있습니다.

쿼리 세부정보

CREATE MODEL 절은 bqml_tutorial.sample_model이라는 모델을 만들고 학습하는 데 사용됩니다.

OPTIONS(model_type='logistic_reg') 절은 로지스틱 회귀 모델을 만들고 있음을 나타냅니다. 로지스틱 회귀 모형은 입력 데이터를 두 클래스로 분할하려고 시도한 다음 데이터가 클래스 중 하나일 확률을 제공합니다. 일반적으로 감지하려는 항목(예: 이메일이 스팸인지 여부)은 1로 표시되고 나머지는 0으로 표시됩니다. 로지스틱 회귀 모형 출력이 0.9면 입력이 감지하려고 시도하는 항목(이메일이 스팸)일 확률이 90%입니다.

이 쿼리의 SELECT 문은 고객이 트랜잭션을 완료할 확률을 예측하는 모델에서 사용되는 다음 열을 검색합니다.

  • totals.transactions — 세션 내 총 전자상거래 수입니다. 트랜잭션 수가 NULL인 경우, label 열의 값은 0으로 설정됩니다. 그렇지 않으면 열의 값은 1로 설정됩니다. 이러한 값은 가능한 결과를 나타냅니다. CREATE MODEL 문에 input_label_cols= 옵션을 설정하는 대신 label이라는 별칭을 만들 수 있습니다.
  • device.operatingSystem — 방문자 기기의 운영체제입니다.
  • device.isMobile — 방문자 기기가 휴대기기인지를 나타냅니다.
  • geoNetwork.country — IP 주소 기반으로 세션이 시작된 국가입니다.
  • totals.pageviews — 세션 내 총 페이지 조회 수입니다.

FROM 절인 bigquery-public-data.google_analytics_sample.ga_sessions_*는 Google 애널리틱스 샘플 데이터세트를 쿼리하고 있음을 나타냅니다. 이 데이터세트는 bigquery-public-data 프로젝트에 있습니다. 날짜별로 분할된 테이블 집합을 쿼리하고 있습니다. google_analytics_sample.ga_sessions_*와 같이 테이블 이름에 와일드 카드로 표시됩니다.

WHERE 절인 _TABLE_SUFFIX BETWEEN '20160801' AND '20170630'은 쿼리에서 검색하는 테이블 수를 제한합니다. 검색 날짜 범위는 2016년 8월 1일부터 2017년 6월 30일까지입니다.

CREATE MODEL 쿼리 실행

CREATE MODEL 쿼리를 실행하여 모델을 만들고 학습시키려면 다음 안내를 따르세요.

  1. BigQuery 웹 UI에서 새 쿼리 작성 버튼을 클릭합니다.

  2. 쿼리 편집기 텍스트 영역에 다음 표준 SQL 쿼리를 입력합니다.

    #standardSQL
    CREATE MODEL `bqml_tutorial.sample_model`
    OPTIONS(model_type='logistic_reg') AS
    SELECT
      IF(totals.transactions IS NULL, 0, 1) AS label,
      IFNULL(device.operatingSystem, "") AS os,
      device.isMobile AS is_mobile,
      IFNULL(geoNetwork.country, "") AS country,
      IFNULL(totals.pageviews, 0) AS pageviews
    FROM
      `bigquery-public-data.google_analytics_sample.ga_sessions_*`
    WHERE
      _TABLE_SUFFIX BETWEEN '20160801' AND '20170630'
    
  3. 실행을 클릭합니다.

    쿼리를 완료하는 데 몇 분 정도 걸립니다. 첫 번째 반복이 완료된 후 BigQuery 웹 UI의 탐색 패널에 모델(sample_model)이 나타납니다. 쿼리는 모델을 만드는 데 CREATE MODEL 구문을 사용하므로 쿼리 결과가 표시되지 않습니다.

    BigQuery 웹 UI에서 모델 통계 탭을 표시하여 학습 중인 모델을 관찰할 수 있습니다. 첫 번째 반복이 완료되는 즉시 모델 통계 탭이 업데이트됩니다. 반복이 완료될 때마다 통계가 계속 업데이트됩니다.

(선택사항) 3단계: 학습 통계 가져오기

모델 학습 결과를 확인하려면 ML.TRAINING_INFO 함수를 사용하거나 BigQuery 웹 UI에서 통계를 확인하면 됩니다. 이 가이드에서는 BigQuery 웹 UI를 사용합니다.

머신러닝은 데이터를 사용하여 예측할 수 있는 모델을 만드는 것입니다. 모델은 기본적으로 입력을 받으면 입력에 계산을 적용하여 예측 출력을 생성하는 함수입니다.

머신러닝 알고리즘은 예측이 이미 알려져 있는 여러 예(사용자 구매의 이전 데이터 등)를 사용하고 모델의 여러 가중치를 반복적으로 조정하여 작동합니다. 이에 따라 모델의 예측이 실제 값과 일치하게 됩니다. 모델이 잘못되었음을 나타내는 손실이라는 통계를 최소화하여 이를 수행합니다.

반복할 때마다 손실이 감소할 것입니다(이상적으로는 0으로). 손실이 0이면 모델이 100% 정확하다는 것을 의미합니다.

CREATE MODEL 쿼리를 실행할 때 생성된 모델 학습 통계를 확인하려면 다음 안내를 따르세요.

  1. BigQuery 웹 UI의 리소스 섹션에서 [PROJECT_ID] > bqml_tutorial을 확장한 후 sample_model을 클릭합니다.

  2. 모델 통계 탭을 클릭합니다. 결과는 다음과 같이 표시됩니다.

    ML.TRAINING_INFO 출력

    학습 데이터 손실 열은 학습 데이터세트에서 지정된 반복 후에 계산된 손실 통계를 나타냅니다. 로지스틱 회귀를 수행했으므로 이 열은 로그 손실입니다. 평가 데이터 손실 열은 홀드아웃 데이터세트(모델을 검증하기 위해 학습에서 보류된 데이터)에서 계산된 손실 통계와 같습니다.

    BigQuery ML은 자동으로 입력 데이터를 학습 집합과 홀드아웃 집합으로 분할하여 모델이 과적합되는 것을 방지합니다. 이는 학습 알고리즘이 확인되지 않은 새 예로 일반화되지 않은 알려진 데이터에 너무 가깝게 맞춰지지 않도록 하기 위해 필요합니다.

    학습 데이터 손실 및 평가 데이터 손실은 각 집합의 모든 예에서 평균을 낸 평균 손실 값입니다.

    ML.TRAINING_INFO 함수에 대한 자세한 내용은 BigQuery ML 구문 참조를 확인하세요.

4단계: 모델 평가

모델을 만든 후에 ML.EVALUATE 함수를 사용하여 분류 기준의 성능을 평가합니다. ML.EVALUATE 함수는 실제 데이터로 예측 값을 평가합니다. 로지스틱 회귀 특정 측정항목에 ML.ROC_CURVE 함수를 사용할 수도 있습니다.

이 가이드에서는 트랜잭션을 감지하는 이진 분류 모델을 사용합니다. 두 클래스는 label 열의 값으로, 0(트랜잭션 없음)과 1(트랜잭션 수행)이 있습니다.

모델을 평가하는 데 사용되는 쿼리는 다음과 같습니다.

#standardSQL
SELECT
  *
FROM
  ML.EVALUATE(MODEL `bqml_tutorial.sample_model`, (
SELECT
  IF(totals.transactions IS NULL, 0, 1) AS label,
  IFNULL(device.operatingSystem, "") AS os,
  device.isMobile AS is_mobile,
  IFNULL(geoNetwork.country, "") AS country,
  IFNULL(totals.pageviews, 0) AS pageviews
FROM
  `bigquery-public-data.google_analytics_sample.ga_sessions_*`
WHERE
  _TABLE_SUFFIX BETWEEN '20170701' AND '20170801'))

쿼리 세부정보

맨 위에 있는 SELECT 문은 모델의 열을 검색합니다.

FROM 절은 bqml_tutorial.sample_model 모델에 ML.EVALUATE 함수를 사용합니다.

이 쿼리의 중첩된 SELECT 문과 FROM 절은 CREATE MODEL 쿼리와 동일합니다.

WHERE 절인 _TABLE_SUFFIX BETWEEN '20170701' AND '20170801'은 쿼리에서 검색하는 테이블 수를 제한합니다. 검색 날짜 범위는 2017년 7월 1일부터 2017년 8월 1일까지입니다. 모델의 예측 성능을 평가하는 데 사용하는 데이터입니다. 학습 데이터가 포함된 기간의 바로 다음 달에 수집되었습니다.

ML.EVALUATE 쿼리 실행

모델을 평가하는 ML.EVALUATE 쿼리를 실행하려면 다음 안내를 따르세요.

  1. BigQuery 웹 UI에서 새 쿼리 작성 버튼을 클릭합니다.

  2. 쿼리 편집기 텍스트 영역에 다음 표준 SQL 쿼리를 입력합니다.

    #standardSQL
    SELECT
      *
    FROM
      ML.EVALUATE(MODEL `bqml_tutorial.sample_model`, (
    SELECT
      IF(totals.transactions IS NULL, 0, 1) AS label,
      IFNULL(device.operatingSystem, "") AS os,
      device.isMobile AS is_mobile,
      IFNULL(geoNetwork.country, "") AS country,
      IFNULL(totals.pageviews, 0) AS pageviews
    FROM
      `bigquery-public-data.google_analytics_sample.ga_sessions_*`
    WHERE
      _TABLE_SUFFIX BETWEEN '20170701' AND '20170801'))
    
  3. 실행을 클릭합니다.

  4. 쿼리가 완료되면 쿼리 텍스트 영역 아래에 있는 결과 탭을 클릭합니다. 결과는 다음과 같이 표시됩니다.

    +--------------------+---------------------+--------------------+--------------------+---------------------+----------+
    |     precision      |       recall        |      accuracy      |      f1_score      |      log_loss       | roc_auc  |
    +--------------------+---------------------+--------------------+--------------------+---------------------+----------+
    | 0.4451901565995526 | 0.08879964301651048 | 0.9716829479411401 | 0.1480654761904762 | 0.07921781778780206 | 0.970706 |
    +--------------------+---------------------+--------------------+--------------------+---------------------+----------+
    

    로지스틱 회귀를 수행했으므로 결과에 다음 열이 포함됩니다.

    • precision - 분류 모델의 측정항목입니다. 정밀도는 포지티브 클래스 예측 시 모델의 정확한 빈도를 식별합니다.
    • recall - '가능한 모든 양성 라벨 중에서 정확하게 식별한 모델은 몇 개입니까'라는 질문에 답하는 분류 모델의 측정항목입니다.
    • accuracy — 정확도는 분류 모델이 바르게 되었다고 예측하는 비율입니다.
    • f1_score - 모델 정확도를 나타내는 척도입니다. f1 점수는 정밀도와 재현율의 조화 평균입니다. f1 점수의 최고 값은 1입니다. 가장 나쁜 값은 0입니다.
    • log_loss - 로지스틱 회귀에 사용된 손실 함수입니다. 모델 예측과 올바른 라벨 간의 차이 정도를 나타내는 척도입니다.
    • roc_auc - AUC(ROC 곡선 아래 영역)입니다. 분류 기준에서 임의로 선택한 양성 예가 실제로 양성일 확률이 임의로 선택한 음성 예가 양성일 확률보다 높습니다. 자세한 내용은 머신러닝 단기집중과정의 분류를 참조하세요.

5단계: 모델을 사용하여 결과 예측

모델을 평가했으므로 다음 단계는 이 모델을 사용하여 결과를 예측하는 것입니다. 모델을 사용하여 각 국가의 웹사이트 방문자가 수행한 트랜잭션 수를 예측합니다.

결과를 예측하는 데 사용되는 쿼리는 다음과 같습니다.

#standardSQL
SELECT
  country,
  SUM(predicted_label) as total_predicted_purchases
FROM
  ML.PREDICT(MODEL `bqml_tutorial.sample_model`, (
SELECT
  IFNULL(device.operatingSystem, "") AS os,
  device.isMobile AS is_mobile,
  IFNULL(totals.pageviews, 0) AS pageviews,
  IFNULL(geoNetwork.country, "") AS country
FROM
  `bigquery-public-data.google_analytics_sample.ga_sessions_*`
WHERE
  _TABLE_SUFFIX BETWEEN '20170701' AND '20170801'))
GROUP BY country
ORDER BY total_predicted_purchases DESC
LIMIT 10

쿼리 세부정보

맨 위에 있는 SELECT 구문은 country 열을 검색하고 predicted_label 열을 합산합니다. 이 열은 ML.PREDICT 함수에서 생성됩니다. ML.PREDICT 함수를 사용할 때 모델의 출력 열 이름은 predicted_<label_column_name>입니다. 선형 회귀 모형의 경우 predicted_labellabel의 예상 값입니다. 로지스틱 회귀 모델의 경우 predicted_label은 가장 가능성이 높은 라벨이며, 이 경우는 0 또는 1입니다.

ML.PREDICT 함수는 bqml_tutorial.sample_model 모델을 사용하여 결과를 예측할 때 사용됩니다.

이 쿼리의 중첩된 SELECT 문과 FROM 절은 CREATE MODEL 쿼리와 동일합니다.

WHERE 절인 _TABLE_SUFFIX BETWEEN '20170701' AND '20170801'은 쿼리에서 검색하는 테이블 수를 제한합니다. 검색 날짜 범위는 2017년 7월 1일부터 2017년 8월 1일까지입니다. 이는 예측을 수행하는 데이터입니다. 학습 데이터가 포함된 기간의 바로 다음 달에 수집되었습니다.

GROUP BYORDER BY 절은 국가별로 결과를 그룹화하고 예측된 구매의 합계를 내림차순으로 정렬합니다.

여기에서 LIMIT 절을 사용하여 상위 10개 결과만 표시합니다.

ML.PREDICT 쿼리 실행

모델을 사용하여 결과를 예측하는 쿼리를 실행하려면 다음 안내를 따르세요.

  1. BigQuery 웹 UI에서 새 쿼리 작성 버튼을 클릭합니다.

  2. 쿼리 편집기 텍스트 영역에 다음 표준 SQL 쿼리를 입력합니다.

    #standardSQL
    SELECT
      country,
      SUM(predicted_label) as total_predicted_purchases
    FROM
      ML.PREDICT(MODEL `bqml_tutorial.sample_model`, (
    SELECT
      IFNULL(device.operatingSystem, "") AS os,
      device.isMobile AS is_mobile,
      IFNULL(totals.pageviews, 0) AS pageviews,
      IFNULL(geoNetwork.country, "") AS country
    FROM
      `bigquery-public-data.google_analytics_sample.ga_sessions_*`
    WHERE
      _TABLE_SUFFIX BETWEEN '20170701' AND '20170801'))
    GROUP BY country
    ORDER BY total_predicted_purchases DESC
    LIMIT 10
    
  3. 실행을 클릭합니다.

  4. 쿼리가 완료되면 쿼리 텍스트 영역 아래에 있는 결과 탭을 클릭합니다. 결과는 다음과 같이 표시됩니다.

    +----------------+---------------------------+
    |    country     | total_predicted_purchases |
    +----------------+---------------------------+
    | United States  |                       209 |
    | Taiwan         |                         6 |
    | Canada         |                         4 |
    | Turkey         |                         2 |
    | India          |                         2 |
    | Japan          |                         2 |
    | Indonesia      |                         1 |
    | United Kingdom |                         1 |
    | Guyana         |                         1 |
    +----------------+---------------------------+
    

(선택사항) 사용자당 구매 예측

이 예에서는 웹사이트 방문자가 수행할 트랜잭션 수를 예측하고자 합니다. 이 쿼리는 GROUP BY 절을 제외하고 이전 쿼리와 동일합니다. 여기에서 GROUP BY 절인 GROUP BY fullVisitorId는 방문자 ID별로 결과를 그룹화하는 데 사용됩니다.

쿼리를 실행하려면 다음 안내를 따르세요.

  1. BigQuery 웹 UI에서 새 쿼리 작성 버튼을 클릭합니다.

  2. 쿼리 편집기 텍스트 영역에 다음 표준 SQL 쿼리를 입력합니다.

    #standardSQL
    SELECT
      fullVisitorId,
      SUM(predicted_label) as total_predicted_purchases
    FROM
      ML.PREDICT(MODEL `bqml_tutorial.sample_model`, (
    SELECT
      IFNULL(device.operatingSystem, "") AS os,
      device.isMobile AS is_mobile,
      IFNULL(totals.pageviews, 0) AS pageviews,
      IFNULL(geoNetwork.country, "") AS country,
      fullVisitorId
    FROM
      `bigquery-public-data.google_analytics_sample.ga_sessions_*`
    WHERE
      _TABLE_SUFFIX BETWEEN '20170701' AND '20170801'))
    GROUP BY fullVisitorId
    ORDER BY total_predicted_purchases DESC
    LIMIT 10
    
  3. 실행을 클릭합니다.

  4. 쿼리가 완료되면 쿼리 텍스트 영역 아래에 있는 결과 탭을 클릭합니다. 결과는 다음과 같이 표시됩니다.

    +---------------------+---------------------------+
    |    fullVisitorId    | total_predicted_purchases |
    +---------------------+---------------------------+
    | 9417857471295131045 |                         4 |
    | 2158257269735455737 |                         3 |
    | 5073919761051630191 |                         3 |
    | 7104098063250586249 |                         2 |
    | 4668039979320382648 |                         2 |
    | 1280993661204347450 |                         2 |
    | 7701613595320832147 |                         2 |
    | 0376394056092189113 |                         2 |
    | 9097465012770697796 |                         2 |
    | 4419259211147428491 |                         2 |
    +---------------------+---------------------------+
    

삭제

이 가이드에서 사용한 리소스 비용이 Google Cloud Platform 계정에 청구되지 않도록 하는 방법은 다음과 같습니다.

  • 만든 프로젝트를 삭제할 수 있습니다.
  • 또는 프로젝트를 유지하고 데이터세트를 삭제할 수 있습니다.

데이터세트 삭제

프로젝트를 삭제하면 프로젝트의 데이터세트와 테이블이 모두 삭제됩니다. 프로젝트를 다시 사용하려면 이 가이드에서 만든 데이터세트를 삭제할 수 있습니다.

  1. 필요하면 BigQuery 웹 UI를 엽니다.

    BigQuery 웹 UI로 이동

  2. 탐색에서 만든 bqml_tutorial 데이터세트를 선택합니다.

  3. 창의 오른쪽에 있는 데이터세트 삭제를 클릭합니다. 데이터세트, 테이블, 모든 데이터가 삭제됩니다.

    데이터세트 삭제

  4. 데이터세트 삭제 대화상자에서 데이터세트 이름(bqml_tutorial)을 입력하여 삭제 명령어를 확인한 후 삭제를 클릭합니다.

프로젝트 삭제

프로젝트를 삭제하는 방법은 다음과 같습니다.

  1. GCP Console에서 프로젝트 페이지로 이동합니다.

    프로젝트 페이지로 이동

  2. 프로젝트 목록에서 삭제할 프로젝트를 선택하고 삭제를 클릭합니다.
  3. 대화상자에서 프로젝트 ID를 입력한 다음 종료를 클릭하여 프로젝트를 삭제합니다.

다음 단계

이 페이지가 도움이 되었나요? 평가를 부탁드립니다.

다음에 대한 의견 보내기...

BigQuery ML 문서