GPU と Dataflow

Dataflow で GPU を使用すると、ストリームまたはバッチデータ処理パイプラインで高速化のメリットを直接利用できます。Dataflow を使用すると、GPU へのデータ取得プロセスが簡素化され、データの局所性を活用できます。ホスト プロビジョニング、自動スケーリング、フォールト トレランスなど、フルマネージドの Dataflow システムのすべてのメリットも活用できます。
このチュートリアルの手順に沿って、カスタム コンテナ イメージを作成し、GPU を使用する Dataflow パイプラインを実行する方法について確認します。
このチュートリアルの手順に沿って PyTorch パイプラインを作成し、GPU を使用する Dataflow で実行します。
L4 GPU タイプは、ML 推論パイプラインの実行に役立ちます。
このチュートリアルの手順に沿って、TensorFlow パイプラインを作成し、GPU を使用する Dataflow で実行します。

リソース

GPU を使用してパイプラインをビルドするためのデベロッパー ワークフローの例をご覧ください。
バッチジョブで Right Fitting を使用して、ワーカー リソースをカスタマイズし、コストを削減します。
GPU を使用する Dataflow ジョブの実行で問題が発生した場合は、次の手順でトラブルシューティングを実施してください。