Ray は、AI および Python アプリケーションをスケーリングするためのオープンソース フレームワークです。Ray は、機械学習（ML）ワークフローの分散コンピューティングと並列処理を実現するためのインフラストラクチャを提供します。
すでに Ray を使用している場合は、同じオープンソースの Ray コードを使用して、最小限の変更でプログラムを作成し、Vertex AI でアプリケーションを開発できます。これにより、ML ワークフローの一部として、Vertex AI や Vertex AI Prediction、BigQuery など、他の Google Cloud サービスと統合することができます。
すでに Vertex AI を使用していて、コンピューティング リソースをより簡単にスケーリングする必要がある場合は、Ray コードを使用して、トレーニング、ハイパーパラメータ チューニング、予測、オンライン サービングのパフォーマンスを最適化できます。
Ray on Vertex AI を使用するためのワークフロー
Ray on Vertex AI を使用するプロセスは次のとおりです。
| ステップ | 説明 |
|---|---|
| 1. Ray on Vertex AI を設定する | Google プロジェクトを設定し、Ray Client の機能を含む Vertex AI SDK for Python のバージョンをインストールして、VPC ピアリング ネットワークを設定します。 |
| 2. Vertex AI に Ray クラスタを作成する | Vertex AI に Ray クラスタを作成します。 |
| 3. Vertex AI で Ray アプリケーションを開発する | Vertex AI の Ray クラスタに接続してアプリケーションを開発します。 |
| 4. （省略可）BigQuery で Ray on Vertex AI を使用する | BigQuery を使用してデータの読み取り、書き込み、変換を行います。 |
| 5. （省略可）Vertex AI にモデルをデプロイして予測を取得する | Vertex AI オンライン エンドポイントにモデルをデプロイして、予測を取得します。 |
| 6. （省略可）Vertex AI の Ray クラスタのログを表示する | 生成されたログを Cloud Logging で表示します。 |
| 7. Vertex AI の Ray クラスタを削除する | 不要な課金を避けるため、Vertex AI の Ray クラスタを削除します。 |
アーキテクチャ
次の図は、Google Cloud プロジェクトと VPC ネットワークを設定した後の Vertex AI での Ray アーキテクチャとワークフローを示しています。
次のオプションを使用して、Vertex AI に Ray クラスタを作成します。
1a. コンソールを使用して Vertex AI に Ray クラスタを作成します。
1b. Vertex AI SDK for Python を使用して Vertex AI に Ray クラスタを作成します。
次のオプションを使用して、VPC ピアリング ネットワーク経由で Vertex AI 上に Ray クラスタに接続します。
2a. コンソールで Colab Enterprise を使用する。
2b. Vertex AI Workbench ノートブックを使用する。
Vertex AI の Ray クラスタでアプリケーションを開発し、次のオプションを使用してモデルをトレーニングします。
任意の環境（Colab Enterprise または Vertex AI Workbench ノートブック）で Vertex AI SDK for Python を使用します。
任意の環境を使用して Python スクリプトを作成します。Vertex AI SDK for Python、Ray Job CLI、または Ray ダッシュボードを使用して、Vertex AI の Ray クラスタに Ray ジョブを送信します。
予測のために、トレーニング済みモデルをオンライン Vertex AI エンドポイントにデプロイします。
BigQuery を使用してデータを管理します。
料金
Vertex AI での Ray の料金は次のように計算されます。
使用するコンピューティング リソースは、Vertex AI に Ray クラスタを作成するときに選択したマシン構成に基づいて課金されます。プレビュー版では、Vertex AI での Ray の使用量はカスタム トレーニング モデルと同じレートで課金されます。一般提供（GA）後の料金には、Vertex AI での Ray の料金が反映されます。料金の変更については、Vertex AI での Ray の一般提供開始時にお知らせいたします。
Vertex AI で Ray クラスタを使用してタスクを実行する場合、ログが自動的に生成され、Cloud Logging の料金に基づいて課金されます。
オンライン予測用のエンドポイントにモデルをデプロイする場合は、Vertex AI の料金ページの予測と説明セクションをご覧ください。
Vertex AI の Ray と BigQuery を使用する場合は、BigQuery の料金をご覧ください。