AutoML 表形式のモデル、AutoML 画像モデル、カスタム トレーニング モデルの場合、モデルのデプロイ中に予測ログを有効または無効にできます。このページでは、さまざまな種類の予測ログと、それらのログを有効または無効にする方法を説明します。
予測ログの種類
予測ノードから情報を取得するために、次の 2 種類の予測ログを使用できます。
コンテナ ロギング。予測ノードから Cloud Logging に
stdout
ストリームとstderr
ストリームが記録されます。これらのログはデバッグに不可欠で、重要です。アクセス ロギング。Cloud Logging に各リクエストのタイムスタンプやレイテンシなどの情報が記録されます。
予測ログの設定
エンドポイントにモデルをデプロイするときに、オンライン予測ログを有効または無効にできます。これらの設定を更新するには、モデルのデプロイ解除を行い、新しい設定でモデルを再デプロイする必要があります。
秒間クエリ数(QPS)が非常に多いオンライン予測の場合、かなりの数のログが生成される可能性があります。これらのログには Cloud Logging の料金が適用されます。オンライン予測ログの料金を見積もるには、ロギングの請求の見積もりをご覧ください。この費用を減らすには、予測ロギングを無効にします。
デフォルトのログ設定
各タイプのログを個別に有効または無効にできます。
コンテナ ロギング。予測ノードから Cloud Logging に
stderr
ストリームとstdout
ストリームが記録されます。v1
サービス エンドポイントでは、コンテナ ロギングがデフォルトで有効になっています。エンドポイントにモデルをデプロイするときに、この機能を無効にできます。v1beta1
サービス エンドポイントでは、コンテナ ロギングはデフォルトでは有効になっていません。エンドポイントにモデルをデプロイするときに、コンテナ ロギングを有効にできます。
アクセス ロギング。Cloud Logging に各リクエストのタイムスタンプやレイテンシなどの情報が記録されます。
v1
とv1beta1
のサービス エンドポイントの両方で、アクセス ロギングはデフォルトで無効になっています。エンドポイントにモデルをデプロイするときに、アクセス ロギングを有効にできます。
予測ログを有効または無効にする
次の例では、モデルをデプロイする際に変更するデフォルトの設定がハイライト表示されています。
Console
Cloud Console でモデルをデプロイするか、Cloud Console で新しいエンドポイントを作成するときに、[ロギング] ステップで有効にする予測ログの種類を指定できます。チェックボックスを選択してアクセス ロギングまたはコンテナ ロギングを有効にします。これらのログを無効にするには、チェックボックスをオフにします。
モデルをデプロイする方法については、Cloud Console を使用したモデルのデプロイをご覧ください。
gcloud
デプロイされたモデルで有効なログのデフォルトの動作を変更するには、gcloud
コマンドにフラグを追加します。
v1
サービス エンドポイント
gcloud ai endpoints deploy-model
を実行します。
gcloud ai endpoints deploy-model ENDPOINT_ID\
--region=LOCATION \
--model=MODEL_ID \
--display-name=DEPLOYED_MODEL_NAME \
--machine-type=MACHINE_TYPE \
--accelerator=count=2,type=nvidia-tesla-t4 \
--disable-container-logging \
--enable-access-logging
v1beta1
サービス エンドポイント
gcloud beta ai endpoints deploy-model
を実行します。
gcloud beta ai endpoints deploy-model ENDPOINT_ID\
--region=LOCATION \
--model=MODEL_ID \
--display-name=DEPLOYED_MODEL_NAME \
--machine-type=MACHINE_TYPE \
--accelerator=count=2,type=nvidia-tesla-t4 \
--enable-access-logging \
--enable-container-logging
モデルをデプロイする方法の詳細については、Vertex AI API を使用したモデルのデプロイをご覧ください。
REST とコマンドライン
デプロイされたモデルで有効なログのデフォルトの動作を変更するには、関連するフィールドを True
に設定します。
v1
サービス エンドポイント
コンテナ ロギングを無効にするには、projects.locations.endpoints.deployModel
でモデルをデプロイするときに disableContainerLogging
フィールドを True
に設定します。
アクセス ロギングを有効にするには、projects.locations.endpoints.deployModel
でモデルをデプロイするときに enableAccessLogging
を True
に設定します。
v1beta1
サービス エンドポイント
コンテナ ロギングを有効にするには、projects.locations.endpoints.deployModel
でモデルをデプロイするときに enableContainerLogging
フィールドを True
に設定します。
アクセス ロギングを有効にするには、projects.locations.endpoints.deployModel
でモデルをデプロイするときに enableAccessLogging
を True
に設定します。
モデルをデプロイする方法の詳細については、Vertex AI API を使用したモデルのデプロイをご覧ください。
次のステップ
- オンライン予測ロギングの料金を見積もる。
- Cloud Console を使用または Vertex AI API を使用して、モデルをデプロイする。