オンライン サービングのタイプ

Vertex AI Feature Store には、オンライン予測用の特徴のサービングに使用できる次のタイプのオンライン サービングが用意されています。

Bigtable オンライン サービング

Bigtable オンライン サービングはデータの耐久性が高く、大量のデータ(数テラバイトのデータ)に効果的です。これは、以前の Vertex AI Feature Store のオンライン サービングに相当しますが、トラフィックの急増に迅速に対応するようには最適化されていません。

一般に、Bigtable オンライン サービングは、最適化されたオンライン サービングよりもレイテンシが高くなりますが、費用対効果は高くなります。

Bigtable オンライン サービングは、エンベディング管理をサポートしていません。エンベディングを管理してサービングする場合は、最適化されたオンライン サービングを使用します。

Bigtable オンライン サービングを使用するには、次の操作を行います。

  1. Bigtable オンライン サービング用のオンライン ストアを作成する。

  2. 特徴ビュー インスタンスを作成する。

  3. Bigtable オンライン サービングを使用して特徴値を取得する。

最適化されたオンライン サービング

最適化されたオンライン サービングを使用すると、Bigtable オンライン サービングよりも大幅に低いレイテンシで特徴を提供できます。高速かつスケーラブルで、データ量の増加に柔軟に対応可能なオンライン サービング アーキテクチャを提供します。最適化されたオンライン サービングは、非常に低いレイテンシで特徴を提供することが重要なシナリオに適しています。

最適化されたオンライン サービングでは、パブリック エンドポイントまたは Private Service Connect エンドポイントから特徴値をサービングできます。

最適化されたオンライン サービング用に作成されたすべてのオンライン ストア インスタンスは、エンベディング管理をサポートしています。

最適化されたオンライン サービングでパブリック エンドポイントを使用する

デフォルトでは、最適化されたオンライン サービング用に作成されたオンライン ストアは、パブリック エンドポイントを使用して特徴を提供できます。パブリック エンドポイントを使用した最適化されたオンライン サービングを使用するには、次の操作を行います。

  1. パブリック エンドポイントを使用した最適化されたオンライン サービング用にオンライン ストアを作成する。

  2. 特徴ビュー インスタンスを作成する。

  3. 最適化されたオンライン サービングを使用して、パブリック エンドポイントから特徴値を取得する。

最適化されたオンライン サービングで Private Service Connect エンドポイントを使用する

Private Service Connect エンドポイントは専用のサービス エンドポイントです。VPC ネットワーク内でパブリック エンドポイントよりも低いレイテンシで特徴を提供する場合は、Private Service Connect エンドポイントを使用します。Private Service Connect エンドポイントを使用した最適化されたオンライン サービングを使用するには、次の操作を行います。

  1. Private Service Connect エンドポイントを使用した最適化されたオンライン サービング用にオンライン ストアを作成する。

  2. 特徴ビュー インスタンスを作成する。

  3. 最適化されたオンライン サービングを使用して、Private Service Connect エンドポイントから特徴値を取得する。

次のステップ