Penyesuaian model adalah proses penting dalam menyesuaikan Gemini agar dapat melakukan tugas tertentu dengan presisi dan akurasi yang lebih baik. Penyesuaian model bekerja dengan menyediakan set data pelatihan yang berisi serangkaian contoh tugas downstream tertentu pada model.
Gunakan Gemini tuning API untuk kasus penggunaan berikut:
Model yang Didukung:
Anda dapat menggunakan fine-tuning yang diawasi pada model Gemini berikut:
Model | Versi |
---|---|
Gemini 1.0 Pro | gemini-1.0-pro-002 |
Contoh sintaksis
Sintaksis untuk men-tuning model.
curl
curl -X POST \ -H "Authorization: Bearer $(gcloud auth print-access-token)" \ -H "Content-Type: application/json" \ https://TUNING_JOB_REGION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/TUNING_JOB_REGION/tuningJobs \ -d '{ "baseModel": "...", "supervisedTuningSpec" : { ... "hyper_parameters": { ... }, }, "tunedModelDisplayName": "", }'
Daftar parameter
Lihat contoh untuk detail penerapan.
Isi permintaan
Isi permintaan berisi data dengan parameter berikut:
Parameter | |
---|---|
|
Opsional: Nama model dasar yang sedang di-tuning. Nilai yang didukung adalah: |
|
Nama tampilan |
supervisedTuningSpec
Parameter | |
---|---|
|
URI Cloud Storage set data pelatihan Anda. Set data harus diformat sebagai file JSONL. Untuk hasil terbaik, berikan minimal 100 hingga 500 contoh. Untuk mengetahui informasi selengkapnya, lihat Tentang set data tuning yang diawasi. |
|
Opsional: URI Cloud Storage set data validasi Anda. Set data Anda harus diformat sebagai file JSONL. Set data dapat berisi hingga 256 contoh. Jika Anda memberikan file ini, data akan digunakan untuk membuat metrik validasi secara berkala selama penyempurnaan. Untuk mengetahui informasi selengkapnya, lihat Tentang set data supervised tuning . |
|
Opsional: Jumlah penerusan lengkap yang dilakukan model untuk seluruh set data pelatihan selama pelatihan. |
|
Opsional: Pengganda untuk menyesuaikan kecepatan pembelajaran default. |
|
Opsional: Ukuran adaptor untuk tuning. |
|
Opsional: Nama tampilan |
AdapterSize
Ukuran adaptor untuk tugas tuning.
Parameter | |
---|---|
|
Ukuran adaptor tidak ditentukan. |
|
Ukuran adaptor 1. |
|
Ukuran adaptor 4. |
|
Ukuran adaptor 8. |
|
Ukuran adaptor 16. |
Contoh
Membuat Tugas penyesuaian yang diawasi
Anda dapat membuat tugas penyesuaian model teks yang diawasi menggunakan Vertex AI SDK untuk Python atau dengan mengirim permintaan POST.
Kasus penggunaan dasar
Kasus penggunaan dasar hanya menetapkan nilai untuk baseModel
dan training_dataset_uri
.
Semua parameter lainnya menggunakan nilai default.
REST
Untuk membuat tugas penyesuaian model, kirim permintaan POST menggunakan metode tuningJobs.create
.
Perhatikan bahwa beberapa parameter tidak didukung oleh semua model. Pastikan Anda hanya menyertakan parameter yang berlaku untuk model yang sedang disesuaikan.
Sebelum menggunakan salah satu data permintaan, lakukan penggantian berikut:
- PROJECT_ID: Project ID Anda.
- TUNING_JOB_REGION: Region tempat tugas tuning dijalankan. Ini juga merupakan region default tempat model yang telah disesuaikan diupload.
- BASE_MODEL: Nama
model dasar yang akan disesuaikan. Nilai yang didukung:
gemini-1.0-pro-002
. - TRAINING_DATASET_URI: URI Cloud Storage set data pelatihan Anda. Set data harus diformat sebagai file JSONL. Untuk hasil terbaik, berikan minimal 100 hingga 500 contoh. Untuk mengetahui informasi selengkapnya, lihat Tentang set data penyesuaian yang diawasi .
Metode HTTP dan URL:
POST https://TUNING_JOB_REGION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/TUNING_JOB_REGION/tuningJobs
Isi JSON permintaan:
{ "baseModel": "BASE_MODEL", "supervisedTuningSpec" : { "training_dataset_uri": "TRAINING_DATASET_URI" }, }
Untuk mengirim permintaan Anda, pilih salah satu opsi berikut:
curl
Simpan isi permintaan dalam file bernama request.json
,
dan jalankan perintah berikut:
curl -X POST \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json; charset=utf-8" \
-d @request.json \
"https://TUNING_JOB_REGION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/TUNING_JOB_REGION/tuningJobs"
PowerShell
Simpan isi permintaan dalam file bernama request.json
,
dan jalankan perintah berikut:
$cred = gcloud auth print-access-token
$headers = @{ "Authorization" = "Bearer $cred" }
Invoke-WebRequest `
-Method POST `
-Headers $headers `
-ContentType: "application/json; charset=utf-8" `
-InFile request.json `
-Uri "https://TUNING_JOB_REGION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/TUNING_JOB_REGION/tuningJobs" | Select-Object -Expand Content
Anda akan melihat respons JSON yang mirip seperti berikut:
Python
Kasus penggunaan lanjutan
Kasus penggunaan lanjutan dikembangkan dari kasus penggunaan dasar, tetapi juga menetapkan nilai untuk hyper_parameters
opsional, seperti epoch_count
, learning_rate_multiplier
, dan adapter_size
.
REST
Untuk membuat tugas penyesuaian model, kirim permintaan POST menggunakan metode tuningJobs.create
.
Perhatikan bahwa beberapa parameter tidak didukung oleh semua model. Pastikan Anda hanya menyertakan parameter yang berlaku untuk model yang sedang disesuaikan.
Sebelum menggunakan salah satu data permintaan, lakukan penggantian berikut:
- PROJECT_ID: Project ID Anda.
- TUNING_JOB_REGION: Region tempat tugas tuning dijalankan. Ini juga merupakan region default tempat model yang telah disesuaikan diupload.
- BASE_MODEL: Nama
model dasar yang akan disesuaikan. Nilai yang didukung:
gemini-1.0-pro-002
. - TRAINING_DATASET_URI: URI Cloud Storage set data pelatihan Anda. Set data harus diformat sebagai file JSONL. Untuk hasil terbaik, berikan minimal 100 hingga 500 contoh. Untuk mengetahui informasi selengkapnya, lihat Tentang set data penyesuaian yang diawasi .
- VALIDATION_DATASET_URIOpsional: URI Cloud Storage file set data validasi Anda.
- EPOCH_COUNTOpsional: Jumlah epoch yang akan dilatih. Biarkan tidak disetel untuk menggunakan nilai yang direkomendasikan.
- LEARNING_RATE_MULTIPLIER: Opsional: Pengganda untuk diterapkan ke kecepatan pembelajaran yang direkomendasikan. Biarkan tidak disetel untuk menggunakan nilai yang direkomendasikan.
- TUNED_MODEL_DISPLAYNAMEOpsional: Nama tampilan untuk model yang disesuaikan. Jika tidak ditetapkan, nama acak akan dibuat.
Metode HTTP dan URL:
POST https://TUNING_JOB_REGION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/TUNING_JOB_REGION/tuningJobs
Isi JSON permintaan:
{ "baseModel": "BASE_MODEL", "supervisedTuningSpec" : { "training_dataset_uri": "TRAINING_DATASET_URI", "validation_dataset_uri": "VALIDATION_DATASET_URI", "hyper_parameters": { "epoch_count": EPOCH_COUNT, "learning_rate_multiplier": LEARNING_RATE_MULTIPLIER }, }, "tunedModelDisplayName": "TUNED_MODEL_DISPLAYNAME, }
Untuk mengirim permintaan Anda, pilih salah satu opsi berikut:
curl
Simpan isi permintaan dalam file bernama request.json
,
dan jalankan perintah berikut:
curl -X POST \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json; charset=utf-8" \
-d @request.json \
"https://TUNING_JOB_REGION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/TUNING_JOB_REGION/tuningJobs"
PowerShell
Simpan isi permintaan dalam file bernama request.json
,
dan jalankan perintah berikut:
$cred = gcloud auth print-access-token
$headers = @{ "Authorization" = "Bearer $cred" }
Invoke-WebRequest `
-Method POST `
-Headers $headers `
-ContentType: "application/json; charset=utf-8" `
-InFile request.json `
-Uri "https://TUNING_JOB_REGION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/TUNING_JOB_REGION/tuningJobs" | Select-Object -Expand Content
Anda akan melihat respons JSON yang mirip seperti berikut:
Python
Tugas penyesuaian daftar
Anda dapat melihat daftar tugas penyesuaian di project saat ini dengan menggunakan Vertex AI SDK untuk Python atau dengan mengirim permintaan GET.
REST
Untuk membuat tugas penyesuaian model, kirim permintaan POST menggunakan metode tuningJobs.create
.
Perhatikan bahwa beberapa parameter tidak didukung oleh semua model. Pastikan Anda hanya menyertakan parameter yang berlaku untuk model yang sedang disesuaikan.
Sebelum menggunakan salah satu data permintaan, lakukan penggantian berikut:
- PROJECT_ID: Project ID Anda.
- TUNING_JOB_REGION: Region tempat tugas tuning dijalankan. Ini juga merupakan region default tempat model yang telah disesuaikan diupload.
Metode HTTP dan URL:
GET https://TUNING_JOB_REGION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/TUNING_JOB_REGION/tuningJobs
Untuk mengirim permintaan Anda, pilih salah satu opsi berikut:
curl
Jalankan perintah berikut:
curl -X GET \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
"https://TUNING_JOB_REGION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/TUNING_JOB_REGION/tuningJobs"
PowerShell
Jalankan perintah berikut:
$cred = gcloud auth print-access-token
$headers = @{ "Authorization" = "Bearer $cred" }
Invoke-WebRequest `
-Method GET `
-Headers $headers `
-Uri "https://TUNING_JOB_REGION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/TUNING_JOB_REGION/tuningJobs" | Select-Object -Expand Content
Anda akan menerima respons JSON yang mirip dengan yang berikut ini:
Python
Mendapatkan detail tugas tuning
Anda dapat memperoleh detail tugas tuning menggunakan Vertex AI SDK untuk Python atau dengan mengirim permintaan GET.
REST
Untuk melihat daftar tugas penyesuaian model, kirim permintaan GET menggunakan metode tuningJobs.get
dan tentukan TuningJob_ID
.
Sebelum menggunakan salah satu data permintaan, lakukan penggantian berikut:
- PROJECT_ID: Project ID Anda.
- TUNING_JOB_REGION: Region tempat tugas tuning dijalankan. Ini juga merupakan region default tempat model yang telah disesuaikan diupload.
- TUNING_JOB_ID: ID tugas tuning.
Metode HTTP dan URL:
GET https://TUNING_JOB_REGION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/TUNING_JOB_REGION/tuningJobs/TUNING_JOB_ID
Untuk mengirim permintaan Anda, pilih salah satu opsi berikut:
curl
Jalankan perintah berikut:
curl -X GET \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
"https://TUNING_JOB_REGION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/TUNING_JOB_REGION/tuningJobs/TUNING_JOB_ID"
PowerShell
Jalankan perintah berikut:
$cred = gcloud auth print-access-token
$headers = @{ "Authorization" = "Bearer $cred" }
Invoke-WebRequest `
-Method GET `
-Headers $headers `
-Uri "https://TUNING_JOB_REGION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/TUNING_JOB_REGION/tuningJobs/TUNING_JOB_ID" | Select-Object -Expand Content
Anda akan menerima respons JSON yang mirip dengan yang berikut ini:
Python
Membatalkan tugas tuning
Anda dapat membatalkan tugas tuning menggunakan Vertex AI SDK untuk Python atau dengan mengirim permintaan POST.
REST
Untuk melihat daftar tugas penyesuaian model, kirim permintaan GET menggunakan metode tuningJobs.cancel
dan tentukan TuningJob_ID
.
Sebelum menggunakan salah satu data permintaan, lakukan penggantian berikut:
- PROJECT_ID: Project ID Anda.
- TUNING_JOB_REGION: Region tempat tugas tuning dijalankan. Ini juga merupakan region default tempat model yang telah disesuaikan diupload.
- TUNING_JOB_ID: ID tugas tuning.
Metode HTTP dan URL:
POST https://TUNING_JOB_REGION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/TUNING_JOB_REGION/tuningJobs/TUNING_JOB_ID:cancel
Untuk mengirim permintaan Anda, pilih salah satu opsi berikut:
curl
Jalankan perintah berikut:
curl -X POST \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json; charset=utf-8" \
-d "" \
"https://TUNING_JOB_REGION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/TUNING_JOB_REGION/tuningJobs/TUNING_JOB_ID:cancel"
PowerShell
Jalankan perintah berikut:
$cred = gcloud auth print-access-token
$headers = @{ "Authorization" = "Bearer $cred" }
Invoke-WebRequest `
-Method POST `
-Headers $headers `
-Uri "https://TUNING_JOB_REGION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/TUNING_JOB_REGION/tuningJobs/TUNING_JOB_ID:cancel" | Select-Object -Expand Content
Anda akan menerima respons JSON yang mirip dengan yang berikut ini:
Python
Langkah selanjutnya
Untuk dokumentasi mendetail, lihat berikut ini: