Penyesuaian model adalah proses penting dalam menyesuaikan Gemini agar dapat melakukan tugas tertentu dengan presisi dan akurasi yang lebih baik. Penyesuaian model bekerja dengan menyediakan set data pelatihan yang berisi serangkaian contoh tugas downstream tertentu pada model.
Halaman ini menyediakan ringkasan penyesuaian model untuk Gemini, menjelaskan opsi penyesuaian yang tersedia untuk Gemini, dan membantu Anda menentukan kapan setiap opsi penyesuaian harus digunakan.
Manfaat penyesuaian model
Penyesuaian model adalah cara yang efektif untuk menyesuaikan model besar dengan tugas Anda. Ini adalah langkah penting untuk meningkatkan kualitas dan efisiensi model. Penyesuaian model memberikan manfaat berikut:
- Kualitas yang lebih tinggi untuk tugas spesifik Anda.
- Ketangguhan model yang lebih baik.
- Latensi dan biaya inferensi lebih rendah karena perintah yang lebih singkat.
Tuning dibandingkan dengan desain prompt
Tuning memberikan manfaat berikut dibandingkan dengan desain prompt.
- Memungkinkan penyesuaian mendalam pada model dan menghasilkan performa yang lebih baik pada tugas tertentu.
- Menawarkan hasil yang lebih konsisten dan dapat diandalkan.
- Mampu menangani lebih banyak contoh sekaligus.
Parameter-efficient tuning
Parameter-efficient tuning, yang juga disebut adaptor tuning, memungkinkan adaptasi yang efisien terhadap model besar ke tugas atau domain tertentu milik Anda. Penyesuaian parameter yang efisien akan memperbarui subset parameter model yang relatif kecil selama proses penyesuaian.
Untuk memahami cara Vertex AI mendukung penyesuaian dan penyaluran adaptor, Anda dapat menemukan detail selengkapnya dalam laporan resmi berikut, Adaptasi Model Dasar Besar.
Parameter-efficient tuning dibandingkan dengan full tuning
Parameter-efficient tuning dan full-tuning penuh adalah dua pendekatan untuk menyesuaikan model besar. Kedua metode tersebut memiliki kelebihan dan implikasi dalam hal kualitas model dan efisiensi resource.
Penyesuaian penuh akan memperbarui semua parameter model, sehingga cocok untuk menyesuaikan model dengan tugas yang sangat kompleks, dengan potensi untuk mencapai kualitas yang lebih tinggi. Namun, fine tuning penuh memerlukan resource komputasi yang lebih tinggi untuk tuning dan inferensi, sehingga menyebabkan biaya keseluruhan yang lebih tinggi.
Parameter-efficient tuning lebih hemat resource dan hemat biaya dibandingkan dengan penyempurnaan penuh. Pelatihan ini menggunakan sumber daya komputasi yang jauh lebih rendah. Solusi ini mampu mengadaptasi model lebih cepat dengan set data yang lebih kecil. Fleksibilitas penyesuaian parameter yang efisien menawarkan solusi untuk pembelajaran multi-tugas tanpa perlu pelatihan ulang ekstensif.
Vertex AI mendukung parameter-efficient tuning dan penyempurnaan penuh untuk berbagai model dalam berbagai skenario.
Menyesuaikan model Gemini
Model Gemini berikut mendukung tuning yang diawasi menggunakan tuning parameter-efficient:
gemini-1.0-pro-002
Fine-tuning yang diawasi adalah opsi yang tepat saat Anda memiliki tugas yang didefinisikan dengan baik dengan data berlabel yang tersedia. Hal ini sangat efektif untuk aplikasi khusus domain yang bahasa atau kontennya sangat berbeda dari data yang awalnya digunakan untuk melatih model besar.
Tuning yang diawasi akan menyesuaikan perilaku model dengan set data berlabel. Proses ini menyesuaikan bobot model untuk meminimalkan perbedaan antara prediksinya dan label sebenarnya. Hal ini dapat meningkatkan performa model untuk jenis tugas berikut:
- Classification
- Analisis sentimen
- Ekstraksi entity
- Meringkas konten yang tidak rumit
- Menulis kueri khusus domain.
Kuota untuk menyesuaikan model Gemini
Kuota diterapkan pada jumlah tugas penyesuaian serentak. Setiap project dilengkapi
kuota default untuk menjalankan setidaknya satu tugas tuning. Ini adalah kuota global,
yang dibagikan di semua region yang tersedia. Jika ingin menjalankan lebih banyak tugas secara serentak,
Anda harus
meminta kuota tambahan
untuk Global concurrent tuning jobs.