このドキュメントでは、 Google Cloudで生成 AI ワークロードを実行する際の Pub/Sub のベスト プラクティスとガイドラインについて説明します。Vertex AI で Pub/Sub を使用して、ML ワークフロー内の効率的な通信と自動化を実現します。
Vertex AI での Pub/Sub のユースケースを次に示します。
- 非同期イベント ドリブン アーキテクチャ: Pub/Sub を使用すると、イベント ドリブン型の通信が可能になり、Pub/Sub トピックに公開されたイベントに基づいて Vertex AI パイプラインをトリガーできます。これらのイベントには、新しいデータとモデルの更新が含まれます。
- スケーラビリティと信頼性: Pub/Sub はスケーラビリティが高く、パフォーマンスに影響を与えることなく多数のイベントを処理できます。スケーラビリティは、大規模なデータセットの処理や複数の同時 ML ジョブの実行に不可欠です。Pub/Sub は、トピック内の信頼性の高いメッセージ配信と順序付けも行います。ワークロードの負荷が高い場合でも処理の一貫性を確保します。
- 柔軟性: Pub/Sub を使用して Vertex AI を Cloud Run functions や Dataflow などの他のサービスと統合し、柔軟で動的な ML パイプラインを作成できます。
- リアルタイムのモニタリングとアラート: Pub/Sub を使用すると、特定のトピックをサブスクライブして、Vertex AI パイプラインのイベントに関するリアルタイム通知を受け取ることができます。リアルタイム モニタリングは、モデルのトレーニングの進行状況、データ前処理の結果、予測出力をモニタリングする際に役立ちます。ジョブの失敗や予測中に検出された異常など、特定のイベントに基づいてアラートを構成できます。アラートを使用すると、事前介入とタイムリーなトラブルシューティングが可能になります。
たとえば、Pub/Sub を使用して次のアクティビティを行うことができます。
- 新しいデータが Cloud Storage バケットに到着したときにモデルのトレーニングをトリガーする。
- デプロイされたモデルからダウンストリーム システムにリアルタイム予測を送信して、さらに処理を行う。
- モデルのパフォーマンス指標の変化をモニタリングして対応する。
- 予測の失敗やデータ品質の問題などの重大なイベントに関するアラートをトリガーする。
推奨される Pub/Sub コントロール
生成 AI に関するユースケースに応じて、追加のコントロールを実装することをおすすめします。これらのコントロールには、データ保持コントロールや、企業ポリシーに基づくポリシー駆動型のコントロールが含まれます。
Pub/Sub メッセージに CMEK を使用する
| Google コントロール ID | PS-CO-6.1 |
|---|---|
| カテゴリ | 推奨 |
| 説明 | Pub/Sub で顧客管理の暗号鍵(CMEK)を有効にすると、Pub/Sub がメッセージの保護に使用する暗号鍵をより詳細に制御できます。アプリケーション レイヤでは、Pub/Sub が受信メッセージを受信すると、Pub/Sub が受信メッセージを個別に暗号化します。Pub/Sub は、サブスクリプションにメッセージをパブリッシュする前に、トピック用に生成された最新のデータ暗号鍵(DEK)を使用してメッセージを暗号化します。Pub/Sub は、メッセージをサブスクライバーに配信する直前に復号します。Pub/Sub は Google Cloud サービス アカウントを使用して Cloud Key Management Service にアクセスします。サービス アカウントはプロジェクトごとに Pub/Sub によって内部的に維持されます。サービス アカウントのリストには表示されません。 |
| 対象プロダクト |
|
| 関連する NIST-800-53 コントロール |
|
| 関連する CRI プロファイル コントロール |
|
| 関連情報 |
オプションの Pub/Sub コントロール
これらのコントロールは省略可能です。特定のユースケースに該当する場合は、適用を検討してください。
メッセージ ストレージ ポリシーを構成する
| Google コントロール ID | PS-CO-4.1 |
|---|---|
| カテゴリ | オプション |
| 説明 | メッセージをグローバル Pub/Sub エンドポイントにパブリッシュすると、Pub/Sub は最も近い Google Cloud リージョンにメッセージを自動的に保存します。メッセージを保存するリージョンを制御するには、トピックにメッセージ ストレージ ポリシーを構成します。次のいずれかの方法で、トピックのメッセージ ストレージ ポリシーを構成します。
|
| 対象プロダクト |
|
| 関連する NIST-800-53 コントロール |
|
| 関連する CRI プロファイル コントロール |
|
| 関連情報 |