モデルをチューニングする

このページでは、Colab Enterprise のサイドパネルを使用して Vertex AI を操作し、モデルをチューニングする方法について説明します。

Colab Enterprise ノートブックでコードを実行して Google Cloud サービスと API にアクセスするには、Google アカウントに関連付けられた認証情報を使用します。詳細については、サービスと API にアクセスする Google Cloud をご覧ください。

サイドパネルは、Colab Enterprise インターフェースから離れることなく Vertex AI を操作してモデルをチューニングするための追加の方法です。

サイドパネルは、開いているノートブックの右側に表示されます。

Vertex AI でのモデル チューニング

モデルのチューニングは、大規模なモデルをタスクに合わせてカスタマイズする効果的な方法です。これは、モデルの品質と効率性を改善するための重要なステップです。モデルのチューニングには次の利点があります。

  • 特定のタスクの品質が向上する
  • モデルの堅牢性が向上する
  • プロンプトが短くなるため、推論のレイテンシとコストが低減される

Gemini の Vertex AI モデル チューニングの概要については、チューニングの概要をご覧ください。

始める前に

  1. Sign in to your Google Cloud account. If you're new to Google Cloud, create an account to evaluate how our products perform in real-world scenarios. New customers also get $300 in free credits to run, test, and deploy workloads.

  2. In the Google Cloud console, on the project selector page, select or create a Google Cloud project.

    Go to project selector

  3. Make sure that billing is enabled for your Google Cloud project.

  4. Enable the Vertex AI, Dataform, and Compute Engine APIs.

    Enable the APIs

    5.

  5. In the Google Cloud console, on the project selector page, select or create a Google Cloud project.

    Go to project selector

  6. Make sure that billing is enabled for your Google Cloud project.

  7. Enable the Vertex AI, Dataform, and Compute Engine APIs.

    Enable the APIs

    8.

必要なロール

Colab Enterprise ノートブックでサイドパネルを使用するのに必要な権限を取得するには、プロジェクトに対する次の IAM ロールを付与するよう管理者に依頼してください。

ロールの付与については、プロジェクト、フォルダ、組織へのアクセス権の管理をご覧ください。

必要な権限は、カスタムロールや他の事前定義ロールから取得することもできます。

モデルをチューニングする

Vertex AI でモデルをチューニングするには、Colab Enterprise のサイドパネルを使用します。

  1. Google Cloud コンソールで、Colab Enterprise の [自分のノートブック] ページに移動します。

    [マイ ノートブック] に移動

  2. [リージョン] メニューで、ノートブックを含むリージョンを選択します。

  3. 開きたいノートブックをクリックします。ノートブックをまだ作成していない場合は、ノートブックを作成します。

  4. ノートブックの右側のサイドパネルで、 チューニング ボタンをクリックします。

    サイドパネルで [チューニング] タブが開きます。

  5. [Gemini モデルをチューニングする] ボタンをクリックします。

    Colab Enterprise は、Gemini モデルをチューニングするためのコードセルをノートブックに追加します。

  6. ノートブックで、パラメータ値を格納するコードセルを見つけます。これらのパラメータを使用して Vertex AI を操作します。

  7. 次のパラメータの値を更新します。

    • PROJECT_ID: ノートブックが存在するプロジェクトの ID。
    • REGION: ノートブックが配置されているリージョン。
    • TUNED_MODEL_DISPLAY_NAME: チューニング済みモデルの名前。

  8. 次のコードセルで、モデル チューニング パラメータを更新します。

    • source_model: 使用する Gemini モデル（例: gemini-1.0-pro-002）。
    • train_dataset: トレーニング データセットの URL。
    • validation_dataset: 検証データセットの URL。
    • 必要に応じて残りのパラメータを調整します。

  9. サイドパネルからノートブックに追加されたコードセルを実行します。

  10. 最後のコードセルが実行されたら、表示された [チューニング ジョブを表示] ボタンをクリックします。

  11. サイドパネルには、モデル チューニング ジョブに関する情報が表示されます。

    • 指標の準備が整うと、[モニタリング] タブにチューニング指標が表示されます。
    • [データセット] タブには、データセットの処理後にデータセットに関する概要と指標が表示されます。
    • [詳細] タブには、チューニング方法や使用したベースモデル（ソースモデル）など、チューニング ジョブに関する情報が表示されます。

  12. チューニング ジョブが完了したら、[チューニングの詳細] タブから、モデルをテストできるページに直接移動できます。[テスト] をクリックします。

    Google Cloud コンソールで Vertex AI の [Text chat] ページが開きます。ここでモデルをテストできます。

チューニング ジョブの詳細を表示する

Colab Enterprise でチューニング ジョブを作成して実行しなかった場合でも、チューニング ジョブの詳細を表示できます。チューニング ジョブの詳細は、Colab Enterprise のサイドパネルで確認できます。

  1. Google Cloud コンソールで、Colab Enterprise の [自分のノートブック] ページに移動します。

    [マイ ノートブック] に移動

  2. [リージョン] メニューで、ノートブックを含むリージョンを選択します。

  3. 開きたいノートブックをクリックします。ノートブックをまだ作成していない場合は、ノートブックを作成します。

  4. ノートブックの右側のサイドパネルで、 チューニング ボタンをクリックします。

    サイドパネルで [チューニング] タブが開きます。

  5. [チューニング ジョブの詳細を表示] ボタンをクリックします。

    Colab Enterprise は、チューニング ジョブの詳細を取得するためのコードセルをノートブックに追加します。

  6. ノートブックで、パラメータ値を格納するコードセルを見つけます。これらのパラメータを使用して Vertex AI を操作します。

  7. 次のパラメータの値を更新します。

    • PROJECT_ID: ノートブックが存在するプロジェクトの ID。
    • REGION: ノートブックが配置されているリージョン。
    • TUNING_JOB_ID: Vertex AI チューニング ジョブの ID。

  8. サイドパネルからノートブックに追加されたコードセルを実行します。

  9. 最後のコードセルが実行されたら、表示された [チューニング ジョブを表示] ボタンをクリックします。

  10. サイドパネルには、モデル チューニング ジョブに関する情報が表示されます。

    • 指標の準備が整うと、[モニタリング] タブにチューニング指標が表示されます。
    • [データセット] タブには、データセットの処理後にデータセットに関する概要と指標が表示されます。
    • [詳細] タブには、チューニング方法や使用したベースモデル（ソースモデル）など、チューニング ジョブに関する情報が表示されます。

次のステップ