모델 추론 개요

이 문서에서는 BigQuery ML에서 지원하는 일괄 추론 유형을 설명하며, 포함되는 유형은 아래와 같습니다.

머신러닝 추론은 단일 숫자 점수와 같은 출력을 계산하기 위해 머신러닝 모델에서 데이터 포인트를 실행하는 프로세스입니다. 이러한 프로세스를 가리켜 '머신러닝 모델을 운용'하거나 '머신러닝 모델을 프로덕션에 배치'한다고도 말합니다.

일괄 예측

다음 섹션에서는 BigQuery ML에서 예측을 수행하는 데 사용 가능한 방법을 설명합니다.

BigQuery ML에서 학습된 모델을 사용한 추론

BigQuery ML의 예측(Prediction)은 지도 학습 모델뿐만 아니라 비지도 학습 모델에도 사용됩니다.

BigQuery ML은 다음 모델과 함께 ML.PREDICT 함수를 통해 Prediction 기능을 지원합니다.

모델 카테고리 모델 유형 ML.PREDICT의 역할
지도 학습 선형 및 로지스틱 회귀

부스티드 트리

랜덤 포레스트

심층신경망

와이드 앤 딥

AutoML Tables 		회귀 태스크의 숫자 값 또는 분류 태스크의 범주형 값으로 된 라벨을 예측합니다.
비지도 학습 k-평균 클러스터를 항목에 할당합니다.
PCA 항목을 고유 벡터가 차지하는 공간으로 변환하여 항목에 차원 축소를 적용합니다.
Autoencoder 항목을 임베딩 공간으로 변환합니다.

가져온 모델을 사용한 추론

이 접근 방식에서는 BigQuery 외부에서 모델을 만들어 학습시키고 CREATE MODEL 문을 사용해 가져온 후 ML.PREDICT 함수를 사용해 이에 대한 추론을 실행합니다. 모든 추론 처리는 BigQuery의 데이터를 사용하여 BigQuery에서 수행됩니다. 가져온 모델은 지도 학습 또는 비지도 학습을 수행할 수 있습니다.

BigQuery ML은 다음 유형의 가져온 모델을 지원합니다.

이 접근방식을 사용하여 다양한 ML 프레임워크로 개발된 커스텀 모델을 활용하는 동시에 BigQuery ML의 추론 속도와 데이터의 공동 배치를 활용할 수 있습니다.

자세한 내용은 다음 튜토리얼 중 하나를 참조하세요.

원격 모델을 사용한 추론

이 접근 방식에서는 CREATE MODEL 문을 사용해 Vertex AI Prediction에서 호스팅되는 모델에 대한 추론을 만든 후 ML.PREDICT 함수를 사용해 이에 대한 추론을 실행합니다. 모든 추론 처리는 BigQuery의 데이터를 사용하여 Vertex AI에서 수행됩니다. 원격 모델은 지도 학습 또는 비지도 학습을 수행할 수 있습니다.

이 접근 방식을 사용하면 Vertex AI에서 제공하는 GPU 하드웨어 지원이 필요한 대규모 모델에 대해 추론을 실행할 수 있습니다. 대부분의 모델이 Vertex AI에서 호스팅되는 경우 데이터를 Vertex AI로 가져오고 예측 결과를 다시 BigQuery로 가져오는 데이터 파이프라인을 수동으로 빌드하지 않고도 SQL을 사용하여 이러한 모델에 대한 추론을 실행할 수도 있습니다.

단계별 안내는 Vertex AI에서 원격 모델로 Prediction 수행을 참조하세요.

Vertex AI에서 BigQuery 모델을 사용한 일괄 추론

BigQuery ML에는 Vertex AI를 사용할 필요 없이 일괄 예측을 지원하는 기본 기능이 있습니다. BigQuery 테이블을 입력으로 사용하여 Vertex AI에서 일괄 예측을 실행하기 위해 BigQuery ML 모델을 Model Registry에 등록할 수도 있습니다. 하지만 Vertex AI API를 사용하고 InstanceConfig.instanceType을 object로 설정해야만 이 작업을 할 수 있습니다.

온라인 예측

BigQuery ML의 기본 제공 추론 기능은 배치 예측과 같은 대규모 사용 사례에 최적화되어 있습니다. BigQuery ML은 소량 입력 데이터를 처리할 때 추론 결과를 제공하기까지 지연 시간이 짧지만, Vertex AI와 원활하게 통합하면 온라인 예측을 더 빠르게 수행할 수 있습니다.

Vertex AI 환경 내에서 BigQuery ML 모델을 관리할 수 있습니다. 이렇게 하면 Vertex AI 엔드포인트로 모델을 배포하기 전에 BigQuery ML에서 모델을 내보낼 필요가 없습니다. Vertex AI 내에서 모델을 관리하면 모든 Vertex AI MLOps 기능과 Vertex AI Feature Store와 같은 기능에 액세스할 수 있습니다.

또한 다른 모델 호스팅 플랫폼에서 사용할 수 있도록 Cloud Storage로 BigQuery ML 모델을 내보낼 수 있는 유연성이 생깁니다.

다음 단계