Men-deploy dan mengelola endpoint

Gunakan model Speech-to-Text Kustom terlatih dalam alur kerja benchmark atau aplikasi produksi Anda. Anda harus men-deploy dan mengekspos model melalui endpoint khusus, yang dibuat sebagian untuk men-deploy model di region yang Anda pilih. Anda akan otomatis mendapatkan akses terprogram melalui objek pengenal. ID ini digunakan langsung melalui API V2 atau di konsol Google Cloud. Anda dapat men-deploy model di region yang berbeda dari tempat model dilatih, tetapi salinan model dibuat di region yang ditentukan oleh endpoint.

Untuk menggunakan model ucapan kustom, Anda perlu men-deploy dan mengeksposnya melalui endpoint khusus. Dengan membuat endpoint, Anda akan men-deploy model di region pilihan Anda. Anda secara otomatis diberi akses terprogram melalui objek pengenal untuk digunakan langsung melalui V2 API untuk inferensi atau di konsol Google Cloud.

Sebelum memulai

Pastikan Anda telah mendaftar ke akun Google Cloud, membuat project, dan melatih model ucapan kustom.

  1. Buka Speech di konsol Google Cloud, dan buka Speech-to-Text.
  2. Buka bagian Model Kustom pada menu navigasi di sebelah kiri.

Membuat endpoint

  1. Buka tab Endpoint di bagian Custom Models.
  2. Klik New Endpoint.
  3. Tentukan nama endpoint Anda. Ini bertindak sebagai ID unik untuk resource endpoint Anda dan digunakan untuk memanggil model ucapan kustom Anda untuk inferensi.
  4. Tentukan region tempat Anda ingin men-deploy model ucapan kustom. Jika model dilatih di region yang berbeda dengan yang ditentukan di konfigurasi endpoint, salinan model baru akan dibuat secara otomatis.
  5. Pilih model ucapan kustom terlatih dari daftar yang ingin ditampilkan melalui endpoint.
  6. Klik Create dan setelah beberapa saat model ucapan kustom Anda di-deploy di endpoint, siap digunakan untuk inferensi dan tolok ukur.
Screenshot alur kerja pembuatan endpoint model Speech-to-Text Kustom, yang menampilkan kolom yang diperlukan untuk endpoint model kustom

Membuat daftar endpoint Anda

Anda dapat mengelola endpoint terkait di konsol dengan memilih tab Endpoint di bagian Model Kustom. Anda juga dapat mencantumkan endpoint yang Anda buat di konsol, beserta statusnya saat ini dan model Speech-to-Text kustom terkait.

Screenshot alur kerja daftar endpoint model Speech-to-Text Kustom, yang menampilkan tabel dengan semua endpoint model kustom yang telah dibuat

Menghapus endpoint

Sebelum memulai, pastikan tidak ada traffic yang dirutekan melalui endpoint Anda, karena menghapusnya akan menghentikan penayangan permintaan apa pun.

  1. Buka tab Endpoint di bagian Custom Models.
  2. Di tab Endpoint, klik untuk meluaskan opsi, lalu klik Delete. Dalam beberapa saat, endpoint akan dihapus dan tidak lagi menyalurkan traffic.

Menjalankan benchmark pada model

Dengan menggunakan model Speech-to-Text Kustom dan set data tolok ukur untuk menilai akurasi model, ikuti panduan mengukur dan meningkatkan akurasi.