Coba: Menguji kemampuan model menggunakan playground demo di Model Garden

Coba: Menguji kemampuan model menggunakan playground demo di Model Garden

Model Garden menghosting area bermain demo publik untuk model yang didukung. Playground didukung oleh endpoint prediksi online Vertex AI yang telah di-deploy sebelumnya.

Saat Anda membuka kartu model untuk model yang didukung, panel Coba akan disematkan dalam kartu. Anda dapat dengan cepat menguji kemampuan model dengan mengirim perintah teks di panel Coba. Panel Coba juga memungkinkan Anda menetapkan beberapa parameter yang paling umum seperti suhu dan jumlah token output.

Model yang didukung

Model berikut memiliki playground demo yang tersedia.

Penyedia	Model
Google	Gemma 2 2B it (instruction tuned) Gemma 2 9B it (instruction tuned) Gemma 2 27B it (instruction tuned) Gemma 2B Gemma 2B it (instruction tuned) Gemma 7B Gemma 7B it (instruction tuned)
Meta	Instruksi Llama 3 8B Instruksi Llama 3 70B Llama 2 7B Chat Llama 2 7B Chat Llama 2 13B Chat Llama 2 70B (Int8) Code Llama 7B Python
IIT	Falcon 7B
Mistral AI	Mixtral 8x7B

Sebelum memulai

Tutorial ini mengharuskan Anda menyiapkan project Google Cloud dan mengaktifkan Vertex AI API.

1. Sign in to your Google Cloud account. If you're new to Google Cloud, create an account to evaluate how our products perform in real-world scenarios. New customers also get $300 in free credits to run, test, and deploy workloads.

2. In the Google Cloud console, on the project selector page, select or create a Google Cloud project.

   Note: If you don't plan to keep the resources that you create in this procedure, create a project instead of selecting an existing project. After you finish these steps, you can delete the project, removing all resources associated with the project.

   Go to project selector

3. Make sure that billing is enabled for your Google Cloud project.

4. Enable the Vertex AI API.

   Enable the API

5. In the Google Cloud console, on the project selector page, select or create a Google Cloud project.

   Note: If you don't plan to keep the resources that you create in this procedure, create a project instead of selecting an existing project. After you finish these steps, you can delete the project, removing all resources associated with the project.

   Go to project selector

6. Make sure that billing is enabled for your Google Cloud project.

7. Enable the Vertex AI API.

   Enable the API

Mencoba Gemma 2

Dalam panduan memulai ini, Anda akan mencoba model Gemma-2b-it. Perhatikan bahwa -it adalah singkatan dari instruction-tuned.

1. Di konsol Google Cloud, buka kartu model Gemma 2.

   Buka Gemma 2

2. Di panel Coba:

   1. Untuk Region, terima default atau pilih region Anda.
   2. Untuk Endpoint, pilih Demo playground (Free)2b-it.
   3. Di kotak Prompt, masukkan Why is the sky blue?.

   4. Luaskan bagian Advanced options dan lihat parameter default.

      

3. Klik Kirim. Output akan muncul di bawah tombol Kirim.

Pembersihan

Agar tidak menimbulkan biaya pada akun Google Cloud Anda untuk resource yang digunakan pada halaman ini, ikuti langkah-langkah berikut.

Menghapus project

Cara termudah untuk menghilangkan penagihan adalah dengan menghapus project yang Anda buat untuk tutorial.

Untuk menghapus project:

Perhatian: Menghapus project memiliki efek berikut:

• Semua hal dalam project akan dihapus. Jika menggunakan project yang sudah ada untuk tugas dalam dokumen ini, saat Anda menghapusnya, pekerjaan lain yang telah Anda lakukan dalam project tersebut juga akan terhapus.
• Project ID kustom hilang. Saat membuat project ini, Anda mungkin telah membuat project ID kustom yang ingin digunakan di masa mendatang. Untuk mempertahankan URL yang menggunakan project ID, seperti URL appspot.com, hapus resource yang dipilih di dalam project, bukan menghapus seluruh project.

Jika Anda berencana mempelajari beberapa arsitektur, tutorial atau panduan memulai, dengan menggunakan kembali project dapat membantu Anda agar tidak melampaui batas kuota project.

1. In the Google Cloud console, go to the Manage resources page.

   Go to Manage resources

2. In the project list, select the project that you want to delete, and then click Delete.
3. In the dialog, type the project ID, and then click Shut down to delete the project.

Langkah selanjutnya

Lihat ringkasan Model Garden.