やってみる: Model Garden のデモ プレイグラウンドを使用してモデルの機能をテストする

やってみる: Model Garden のデモ プレイグラウンドを使用してモデルの機能をテストする

Model Garden には、サポートされているモデルの公開デモ プレイグラウンドがホストされています。プレイグラウンドは、事前にデプロイされた Vertex AI オンライン予測エンドポイントを使用しています。

サポートされているモデルのモデルカードを開くと、[試す] パネルがカードに埋め込まれます。[試す] パネルでテキスト プロンプトを送信すると、モデルの機能を簡単にテストできます。[試す] パネルでは、温度や出力トークン数など、最も一般的なパラメータの設定も行えます。

サポートされているモデル

次のモデルにはデモ プレイグラウンドがあります。

プロバイダ	モデル
Google	Gemma 2 2B it（指示調整） Gemma 2 9B it（指示調整済み） Gemma 2 27B it（指示調整済み） Gemma 2B Gemma 2B it（指示調整） Gemma 7B Gemma 7B it（指示調整）
Meta	Llama 3 8B 指示 Llama 3 70B 指示 Llama 2 7B Llama 2 7B Chat Llama 2 13B チャット Llama 2 70B Chat（Int8） Code Llama 7B Python
IIT	Falcon 7B
Mistral AI	Mixtral 8x7B

始める前に

このチュートリアルでは、Google Cloud プロジェクトを設定し、Vertex AI API を有効にする必要があります。

1. Sign in to your Google Cloud account. If you're new to Google Cloud, create an account to evaluate how our products perform in real-world scenarios. New customers also get $300 in free credits to run, test, and deploy workloads.

2. In the Google Cloud console, on the project selector page, select or create a Google Cloud project.

   Note: If you don't plan to keep the resources that you create in this procedure, create a project instead of selecting an existing project. After you finish these steps, you can delete the project, removing all resources associated with the project.

   Go to project selector

3. Make sure that billing is enabled for your Google Cloud project.

4. Enable the Vertex AI API.

   Enable the API

5. In the Google Cloud console, on the project selector page, select or create a Google Cloud project.

   Note: If you don't plan to keep the resources that you create in this procedure, create a project instead of selecting an existing project. After you finish these steps, you can delete the project, removing all resources associated with the project.

   Go to project selector

6. Make sure that billing is enabled for your Google Cloud project.

7. Enable the Vertex AI API.

   Enable the API

Gemma 2 を試す

このクイックスタートでは、Gemma-2b-it モデルを試します。-it は「命令チューニング済み」を表します。

1. Google Cloud コンソールで、Gemma 2 モデルカードに移動します。

   Gemma 2 に移動

2. [試す] パネルで、次の操作を行います。

   1. [リージョン] で、デフォルトをそのまま使用するか、リージョンを選択します。
   2. [エンドポイント] で [デモ プレイグラウンド（無料）2b-it] を選択します。
   3. [プロンプト] ボックスに「Why is the sky blue?」と入力します。

   4. [詳細オプション] セクションを開き、デフォルト パラメータを確認します。

      

3. [送信] をクリックします。出力は [送信] ボタンの下に表示されます。

クリーンアップ

このページで使用したリソースについて、Google Cloud アカウントに課金されないようにするには、次の手順を実施します。

プロジェクトを削除する

課金をなくす最も簡単な方法は、チュートリアル用に作成したプロジェクトを削除することです。

プロジェクトを削除するには:

注意: プロジェクトを削除すると、次のような影響があります。

• プロジェクト内のすべてのものが削除されます。このドキュメントのタスクで既存のプロジェクトを使用した場合、それを削除すると、そのプロジェクトで行った他の作業もすべて削除されます。
• カスタム プロジェクト ID が失われます。このプロジェクトを作成したときに、将来使用するカスタム プロジェクト ID を作成した可能性があります。そのプロジェクト ID を使用した URL（たとえば、appspot.com）を保持するには、プロジェクト全体ではなくプロジェクト内の選択したリソースだけを削除します。

複数のアーキテクチャ、チュートリアル、クイックスタートを実施する予定がある場合は、プロジェクトを再利用すると、プロジェクトの割り当て上限を超えないようにすることができます。

1. In the Google Cloud console, go to the Manage resources page.

   Go to Manage resources

2. In the project list, select the project that you want to delete, and then click Delete.
3. In the dialog, type the project ID, and then click Shut down to delete the project.

次のステップ

Model Garden の概要をご覧ください。