Prediksi adalah output dari model machine learning yang telah dilatih. Halaman ini menyediakan ringkasan alur kerja untuk mendapatkan prediksi dari model Anda di Vertex AI.
Vertex AI menawarkan dua metode untuk mendapatkan prediksi:
Prediksi online adalah permintaan sinkron yang dibuat untuk model yang di-deploy ke
endpoint
. Oleh karena itu, sebelum mengirim permintaan, Anda harus men-deploy resourceModel
terlebih dahulu ke endpoint. Hal ini mengaitkan resource komputasi dengan model sehingga dapat menampilkan prediksi online dengan latensi rendah. Gunakan prediksi online saat Anda membuat permintaan sebagai respons terhadap input aplikasi atau dalam situasi yang memerlukan inferensi tepat waktu.Prediksi batch adalah permintaan asinkron yang dibuat ke model yang tidak di-deploy ke endpoint. Anda mengirim permintaan (sebagai resource
BatchPredictionsJob
) langsung ke resourceModel
. Gunakan prediksi batch jika Anda tidak memerlukan respons langsung dan ingin memproses data yang terakumulasi menggunakan satu permintaan.
Mendapatkan prediksi dari model terlatih kustom
Untuk mendapatkan prediksi, Anda harus mengimpor
model terlebih dahulu. Setelah diimpor, resource tersebut menjadi
resource Model
yang terlihat di
Vertex AI Model Registry.
Kemudian, baca dokumentasi berikut untuk mempelajari cara mendapatkan prediksi:
Mendapatkan prediksi dari model AutoML
Tidak seperti model terlatih kustom, model AutoML secara otomatis diimpor ke Vertex AI Model Registry setelah pelatihan.
Selain itu, alur kerja untuk model AutoML serupa, tetapi sedikit berbeda berdasarkan jenis data dan tujuan model Anda. Dokumentasi untuk mendapatkan prediksi AutoML terletak di samping dokumentasi AutoML lainnya. Berikut adalah link dokumentasinya:
Gambar
Pelajari cara mendapatkan prediksi dari jenis model AutoML gambar berikut:
Berbentuk tabel
Pelajari cara mendapatkan prediksi dari jenis model AutoML berbentuk tabel berikut:
Model klasifikasi dan regresi berbentuk tabel
Model perkiraan berbentuk tabel (khusus prediksi batch)
Teks
Pelajari cara mendapatkan prediksi dari jenis model AutoML teks berikut:
Video
Pelajari cara mendapatkan prediksi dari jenis model AutoML video berikut:
- Model pengenalan tindakan video (khusus prediksi batch)
- Model klasifikasi video (khusus prediksi batch)
- Model pelacakan objek video (khusus prediksi batch)
Mendapatkan prediksi dari model BigQuery ML
Ada dua cara untuk mendapatkan prediksi dari model BigQuery ML:
- Anda dapat meminta prediksi batch langsung dari model di BigQuery ML.
- Anda dapat mendaftarkan model langsung ke Model Registry, tanpa mengekspornya dari BigQuery ML atau mengimpornya ke dalam Model Registry.