オンライン予測ロギング

AutoML 表形式のモデル、AutoML 画像モデル、カスタム トレーニング モデルの場合、モデルのデプロイ中に予測ログを有効または無効にできます。このページでは、さまざまな種類の予測ログと、それらのログを有効または無効にする方法を説明します。

予測ログの種類

予測ノードから情報を取得するために、次の 2 種類の予測ログを使用できます。

  • コンテナ ロギング。予測ノードから Cloud Logging に stdout ストリームと stderr ストリームが記録されます。これらのログはデバッグに不可欠で、重要です。

  • アクセス ロギング。Cloud Logging に各リクエストのタイムスタンプやレイテンシなどの情報が記録されます。

予測ログの設定

エンドポイントにモデルをデプロイするときに、オンライン予測ログを有効または無効にできます。これらの設定を更新するには、モデルのデプロイ解除を行い、新しい設定でモデルを再デプロイする必要があります。

秒間クエリ数(QPS)が非常に多いオンライン予測の場合、かなりの数のログが生成される可能性があります。これらのログには Cloud Logging の料金が適用されます。オンライン予測ログの料金を見積もるには、ロギングの請求の見積もりをご覧ください。この費用を減らすには、予測ロギングを無効にします。

デフォルトのログ設定

各タイプのログを個別に有効または無効にできます。

  • コンテナ ロギング。予測ノードから Cloud Logging に stderr ストリームと stdout ストリームが記録されます。

    • v1 サービス エンドポイントでは、コンテナ ロギングがデフォルトで有効になっています。エンドポイントにモデルをデプロイするときに、この機能を無効にできます。

    • v1beta1 サービス エンドポイントでは、コンテナ ロギングはデフォルトでは有効になっていません。エンドポイントにモデルをデプロイするときに、コンテナ ロギングを有効にできます。

  • アクセス ロギング。Cloud Logging に各リクエストのタイムスタンプやレイテンシなどの情報が記録されます。

    v1v1beta1 のサービス エンドポイントの両方で、アクセス ロギングはデフォルトで無効になっています。エンドポイントにモデルをデプロイするときに、アクセス ロギングを有効にできます。

予測ログを有効または無効にする

次の例では、モデルをデプロイする際に変更するデフォルトの設定がハイライト表示されています。

Console

Cloud Console でモデルをデプロイするか、Cloud Console で新しいエンドポイントを作成するときに、[ロギング] ステップで有効にする予測ログの種類を指定できます。チェックボックスを選択してアクセス ロギングまたはコンテナ ロギングを有効にします。これらのログを無効にするには、チェックボックスをオフにします。

モデルをデプロイする方法については、Cloud Console を使用したモデルのデプロイをご覧ください。

gcloud

デプロイされたモデルで有効なログのデフォルトの動作を変更するには、gcloud コマンドにフラグを追加します。

v1 サービス エンドポイント

gcloud ai endpoints deploy-model を実行します。

gcloud ai endpoints deploy-model ENDPOINT_ID\
  --region=LOCATION \
  --model=MODEL_ID \
  --display-name=DEPLOYED_MODEL_NAME \
  --machine-type=MACHINE_TYPE \
  --accelerator=count=2,type=nvidia-tesla-t4 \
  --disable-container-logging \
  --enable-access-logging

v1beta1 サービス エンドポイント

gcloud beta ai endpoints deploy-model を実行します。

gcloud beta ai endpoints deploy-model ENDPOINT_ID\
  --region=LOCATION \
  --model=MODEL_ID \
  --display-name=DEPLOYED_MODEL_NAME \
  --machine-type=MACHINE_TYPE \
  --accelerator=count=2,type=nvidia-tesla-t4 \
  --enable-access-logging \
  --enable-container-logging

モデルをデプロイする方法の詳細については、Vertex AI API を使用したモデルのデプロイをご覧ください。

REST とコマンドライン

デプロイされたモデルで有効なログのデフォルトの動作を変更するには、関連するフィールドを True に設定します。

v1 サービス エンドポイント

コンテナ ロギングを無効にするには、projects.locations.endpoints.deployModel でモデルをデプロイするときに disableContainerLogging フィールドを True に設定します。

アクセス ロギングを有効にするには、projects.locations.endpoints.deployModel でモデルをデプロイするときに enableAccessLoggingTrue に設定します。

v1beta1 サービス エンドポイント

コンテナ ロギングを有効にするには、projects.locations.endpoints.deployModel でモデルをデプロイするときに enableContainerLogging フィールドを True に設定します。

アクセス ロギングを有効にするには、projects.locations.endpoints.deployModel でモデルをデプロイするときに enableAccessLoggingTrue に設定します。

モデルをデプロイする方法の詳細については、Vertex AI API を使用したモデルのデプロイをご覧ください。

次のステップ