モデルをチューニングする

モデルをチューニングする

このページでは、Colab Enterprise のサイドパネルを使用して Vertex AI を操作し、モデルをチューニングする方法について説明します。

Colab Enterprise ノートブックでコードを実行して Google Cloud のサービスと API にアクセスするには、Google アカウントに関連付けられている認証情報を使用します。詳細については、 Google Cloud のサービスと API にアクセスするをご覧ください。

サイドパネルは、Colab Enterprise インターフェースから離れることなく Vertex AI を操作してモデルをチューニングするための追加の方法です。

1 つ以上のノートブックが開いている場合、サイドパネルが Colab Enterprise の [Notebooks] ページに表示されます。

Vertex AI でのモデル チューニング

モデルのチューニングは、大規模なモデルをタスクに合わせてカスタマイズする効果的な方法です。これは、モデルの品質と効率性を改善するための重要なステップです。モデルのチューニングには次の利点があります。

• 特定のタスクの品質が向上する
• モデルの堅牢性が向上する
• プロンプトが短くなるため、推論のレイテンシとコストが低減される

Gemini の Vertex AI モデル チューニングの概要については、チューニングの概要をご覧ください。

始める前に

1. Sign in to your Google Cloud account. If you're new to Google Cloud, create an account to evaluate how our products perform in real-world scenarios. New customers also get $300 in free credits to run, test, and deploy workloads.

2. In the Google Cloud console, on the project selector page, select or create a Google Cloud project.

   Note: If you don't plan to keep the resources that you create in this procedure, create a project instead of selecting an existing project. After you finish these steps, you can delete the project, removing all resources associated with the project.

   Go to project selector

3. Make sure that billing is enabled for your Google Cloud project.

4. Enable the Vertex AI, Dataform, and Compute Engine APIs.

   Enable the APIs

5. In the Google Cloud console, on the project selector page, select or create a Google Cloud project.

   Note: If you don't plan to keep the resources that you create in this procedure, create a project instead of selecting an existing project. After you finish these steps, you can delete the project, removing all resources associated with the project.

   Go to project selector

6. Make sure that billing is enabled for your Google Cloud project.

7. Enable the Vertex AI, Dataform, and Compute Engine APIs.

   Enable the APIs

必要なロール

Colab Enterprise ノートブックでサイドパネルを使用するのに必要な権限がユーザー アカウントに付与されるように、プロジェクトに対する次の IAM ロールをユーザー アカウントに付与するよう管理者に依頼してください。

• Colab Enterprise ユーザー （roles/aiplatform.colabEnterpriseUser）
• Vertex AI ユーザー（roles/aiplatform.user）

ロールの付与については、プロジェクト、フォルダ、組織へのアクセス権の管理をご覧ください。

管理者は、カスタムロールや他の事前定義ロールを使用して、必要な権限をユーザー アカウントに付与することもできます。

1 つ以上の必須ロールに dataform.repositories.list 権限が含まれています。プロジェクトで dataform.repositories.list 権限またはコード作成者（roles/dataform.codeCreator）ロールが付与されているユーザーは、Dataform API または Dataform コマンドライン インターフェース（CLI）を使用して、そのプロジェクトのコードアセットの名前を一覧取得できます。BigQuery Studio を使用する管理者以外のユーザーは、自身が作成したコードアセットまたは自分と共有されているコードアセットのみを表示できます。

モデルをチューニングする

Vertex AI でモデルをチューニングするには、Colab Enterprise のサイドパネルを使用します。

1. Google Cloud コンソールで、Colab Enterprise の [ノートブック] ページに移動します。

   [ノートブック] に移動

2. [リージョン] メニューで、ノートブックを含むリージョンを選択します。

3. [マイ ノートブック] タブで、開きたいノートブックをクリックします。ノートブックをまだ作成していない場合は、ノートブックを作成します。

4. ノートブックの右側のサイドパネルで、 [チューニング] ボタンをクリックします。

   サイドパネルで [チューニング] タブが開きます。

5. [Gemini モデルをチューニングする] ボタンをクリックします。

   Colab Enterprise は、Gemini モデルをチューニングするためのコードセルをノートブックに追加します。

6. ノートブックで、パラメータ値を格納するコードセルを見つけます。これらのパラメータを使用して Vertex AI を操作します。

7. 次のパラメータの値を更新します。

   • PROJECT_ID: ノートブックが存在するプロジェクトの ID。
   • REGION: ノートブックが配置されているリージョン。
   • TUNED_MODEL_DISPLAY_NAME: チューニング済みモデルの名前。

8. 次のコードセルで、モデル チューニング パラメータを更新します。

   • source_model: 使用する Gemini モデル（例: gemini-1.0-pro-002）。
   • train_dataset: トレーニング データセットの URL。
   • validation_dataset: 検証データセットの URL。
   • 必要に応じて残りのパラメータを調整します。

9. サイドパネルからノートブックに追加されたコードセルを実行します。

10. 最後のコードセルが実行されたら、表示された [チューニング ジョブを表示] ボタンをクリックします。

11. サイドパネルには、モデル チューニング ジョブに関する情報が表示されます。

    • 指標の準備が整うと、[モニタリング] タブにチューニング指標が表示されます。
    • [データセット] タブには、データセットの処理後にデータセットに関する概要と指標が表示されます。
    • [詳細] タブには、チューニング方法や使用したベースモデル（ソースモデル）など、チューニング ジョブに関する情報が表示されます。

12. チューニング ジョブが完了したら、[チューニングの詳細] タブから、モデルをテストできるページに直接移動できます。[テスト] をクリックします。

    Google Cloud コンソールが開き、Vertex AI の [テキスト チャット] ページが表示されます。ここでモデルをテストできます。

チューニング ジョブの詳細を表示する

Colab Enterprise でチューニング ジョブを作成して実行していなくても、チューニング ジョブの詳細を表示できます。チューニング ジョブの詳細は、Colab Enterprise のサイドパネルを使用して表示できます。

1. Google Cloud コンソールで、Colab Enterprise の [ノートブック] ページに移動します。

   [ノートブック] に移動

2. [リージョン] メニューで、ノートブックを含むリージョンを選択します。

3. [マイ ノートブック] タブで、開きたいノートブックをクリックします。ノートブックをまだ作成していない場合は、ノートブックを作成します。

4. ノートブックの右側のサイドパネルで、 チューニング ボタンをクリックします。

   サイドパネルで [チューニング] タブが開きます。

5. [チューニング ジョブの詳細を表示] ボタンをクリックします。

   Colab Enterprise は、チューニング ジョブの詳細を取得するためのコードセルをノートブックに追加します。

6. ノートブックで、パラメータ値を格納するコードセルを見つけます。これらのパラメータを使用して Vertex AI を操作します。

7. 次のパラメータの値を更新します。

   • PROJECT_ID: ノートブックが存在するプロジェクトの ID。
   • REGION: ノートブックが配置されているリージョン。
   • TUNING_JOB_ID: Vertex AI チューニング ジョブの ID。

8. サイドパネルからノートブックに追加されたコードセルを実行します。

9. 最後のコードセルが実行されたら、表示された [チューニング ジョブを表示] ボタンをクリックします。

10. サイドパネルには、モデル チューニング ジョブに関する情報が表示されます。

    • 指標の準備が整うと、[モニタリング] タブにチューニング指標が表示されます。
    • [データセット] タブには、データセットの処理後にデータセットに関する概要と指標が表示されます。
    • [詳細] タブには、チューニング方法や使用したベースモデル（ソースモデル）など、チューニング ジョブに関する情報が表示されます。

次のステップ

• 詳しくは、Vertex AI でのモデル チューニングをご覧ください。

• モデルのチューニング パラメータの詳細については、教師ありファインチューニングを使用して Gemini モデルをチューニングするをご覧ください。