AI Platform Prediction은 이미지를 사용하여 클라우드에서 학습 및 예측 요청을 서비스하는 VM을 구성합니다. 이러한 이미지에는 기본 운영체제, 핵심 기술 패키지, pip 패키지(Python 라이브러리), 운영체제 패키지가 포함됩니다. 주기적인 업그레이드를 통해 이미지에 새로운 개선사항과 기능이 추가됩니다. AI Platform Prediction 버전 관리를 사용하면 모델에 사용할 올바른 구성을 선택할 수 있습니다.
버전 관리에 대한 중요 참고 사항
- 새 런타임 버전으로 전환할 때는 업데이트의 중요도(주 업데이트 또는 부 업데이트)에 상관없이 항상 학습 작업과 모델을 철저히 테스트해야 합니다.
AI Platform Prediction은 출시 후 12개월 동안 각 런타임 버전을 지원합니다. 12개월이 지나면 이 런타임 버전을 사용하는 학습 작업, 일괄 예측 작업, 모델 버전을 더 이상 만들 수 없습니다.
런타임 버전 출시로부터 24개월이 지나면 AI Platform Prediction이 해당 런타임 버전을 사용하는 모든 모델 버전을 삭제합니다.
런타임 버전의 사용 가능 기간에 대해 자세히 알아보세요.
버전 번호 이해
AI Platform Prediction에서 사용되는 이미지는 AI Platform Prediction 런타임 버전을 따릅니다. 런타임 버전에는 다음 형식이 사용됩니다.
major_version.minor_version
주 버전 및 부 버전
다음 중 하나 이상이 포함된 새로운 주 버전 및 부 버전이 주기적으로 생성됩니다.
- 출시 대상:
- 운영체제
- 지원되는 머신러닝 프레임워크
- AI Platform Prediction 기능 변경 또는 업데이트
새로운 주 버전은 브레이킹 체인지를 포함할 수 있으며, 이로 인해 이전 버전을 대상으로 작성된 코드를 업데이트해야 할 수 있습니다. 부 버전을 새로 출시할 때는 버전 변경에 따른 호환성 문제가 발생하지 않아야 하며, 동일 주 버전으로 출시된 모든 이전 부 버전과 호환되어야 합니다.
런타임 버전 선택
사용 중인 머신러닝 프레임워크 및 기타 패키지의 최신 버전을 지원하는 런타임 버전을 선택해야 합니다.
scikit-learn과 XGBoost를 지원하는 가장 오래된 AI Platform Prediction 런타임 버전은 버전 1.4입니다.
각 버전의 세부정보는 AI Platform Prediction 버전 목록에서 확인할 수 있습니다.
온라인 예측용 런타임 버전
모델 버전을 생성할 때 온라인 예측 요청에 사용할 런타임 버전을 지정해야 합니다. 모델 버전의 기본 런타임 버전이 올바르지 않을 경우 올바른 런타임 버전으로 새 모델 버전을 생성합니다.
온라인 예측 요청은 언제나 모델 버전의 기본 런타임 버전을 사용합니다. 온라인 예측 요청에서 이 버전을 재정의하는 런타임 버전을 지정할 수는 없습니다.
런타임 버전 설정
학습된 모델을 사용하여 배포된 모델 버전을 만들 때 런타임 버전을 지정해야 합니다. 이에 따라 온라인 및 배치 예측 요청의 기본 런타임 버전이 설정됩니다.
gcloud
gcloud ai-platform versions create 명령어를 실행할 때 --runtime-version 플래그를 사용합니다.
gcloud ai-platform versions create version_name \
--model model_name \
--origin gs://my/trained/model/path \
--runtime-version 2.11 \
--python-version 3.7
Python
버전 리소스를 정의할 때 runtimeVersion을 설정합니다.
versionDef = {'name' = 'v1',
'description' = 'The first iteration of the completely_made_up model',
'deploymentUri' = 'gs://my/model/output/directory',
'runtimeVersion' = '2.11',
'pythonVersion': '3.7'}
일괄 예측을 위한 런타임 버전 설정
일괄 예측 작업을 만들 때 사용할 런타임 버전을 지정할 수 있습니다. 지정하지 않으면 AI Platform Prediction이 모델 버전에 설정된 기본 런타임 버전을 사용합니다.
gcloud
gcloud ai-platform jobs submit prediction 명령어를 실행할 때 --runtime-version 플래그를 사용합니다.
gcloud ai-platform jobs submit prediction my_batch_job_333 \
--model my_model \
--input-paths gs://my/cloud/storage/data/path/* \
--output-path gs://my/cloud/storage/data/output/path \
--region us-central1 \
--data-format text \
--runtime-version 2.1
Python
PredictionInput에서 runtimeVersion을 설정합니다.
body = {
'jobId': 'my_batch_job_333',
'predictionInput': {
'dataFormat': 'JSON',
'inputPaths': ['gs://my/cloud/storage/data/path/*'],
'outputPath': 'gs://my/cloud/storage/data/output/path',
'region': 'us-central1',
'modelName': 'projects/my_project/models/my_model',
'runtimeVersion': '2.1'}}
다음 단계
- 지원되는 런타임 버전 목록 살펴보기