Ray adalah framework open source untuk menskalakan aplikasi AI dan Python. Ray menyediakan infrastruktur untuk melakukan komputasi terdistribusi dan pemrosesan paralel untuk alur kerja machine learning (ML) Anda.
Jika sudah menggunakan Ray, Anda dapat menggunakan kode Ray open source yang sama untuk menulis program dan mengembangkan aplikasi di Vertex AI dengan sedikit perubahan. Selanjutnya, Anda dapat menggunakan integrasi Vertex AI dengan layanan Google Cloud lainnya seperti prediksi Vertex AI dan BigQuery sebagai bagian dari alur kerja machine learning Anda.
Jika sudah menggunakan Vertex AI dan membutuhkan cara yang lebih sederhana untuk menskalakan resource komputasi, Anda dapat menggunakan kode Ray untuk mengoptimalkan performa pelatihan, penyesuaian hyperparameter, prediksi, dan langkah penyaluran online.
Alur kerja untuk menggunakan Ray di Vertex AI
Proses menggunakan Ray di Vertex AI adalah sebagai berikut:
| Langkah | Deskripsi |
|---|---|
| 1. Melakukan penyiapan untuk Ray on Vertex AI | Siapkan project Google Anda, instal versi Vertex AI SDK untuk Python yang menyertakan fungsi Ray Client, dan siapkan jaringan peering VPC. |
| 2. Membuat cluster Ray di Vertex AI | Membuat cluster Ray on Vertex AI. |
| 3. Mengembangkan aplikasi Ray on Vertex AI | Menghubungkan ke cluster Ray di Vertex AI dan mengembangkan aplikasi. |
| 4. (Opsional) Menggunakan Ray di Vertex AI dengan BigQuery | Membaca, menulis, dan mengubah data dengan BigQuery. |
| 5. (Opsional) Men-deploy model di Vertex AI dan mendapatkan prediksi | Men-deploy model ke endpoint online Vertex AI dan mendapatkan prediksi. |
| 6. (Opsional) Melihat log untuk cluster Ray Anda di Vertex AI | Lihat log yang dibuat di Cloud Logging. |
| 7. Menghapus cluster Ray di Vertex AI | Menghapus cluster Ray di Vertex AI untuk menghindari penagihan yang tidak perlu. |
Arsitektur
Diagram berikut menunjukkan arsitektur dan alur kerja untuk Ray di Vertex AI setelah Anda menyiapkan jaringan VPC dan project Google Cloud:
Buat cluster Ray di Vertex AI menggunakan opsi berikut:
1a. Gunakan konsol untuk membuat cluster Ray di Vertex AI.
1b. Membuat cluster Ray di Vertex AI menggunakan Vertex AI SDK untuk Python.
Hubungkan ke cluster Ray di Vertex AI melalui jaringan yang di-peering VPC menggunakan opsi berikut:
2a. Gunakan Colab Enterprise di konsol.
2b. Gunakan notebook Vertex AI Workbench.
Kembangkan aplikasi Anda dan latih model di cluster Ray di Vertex AI menggunakan opsi berikut:
Gunakan Vertex AI SDK untuk Python di lingkungan pilihan Anda (notebook Colab Enterprise atau Vertex AI Workbench).
Tulis skrip Python menggunakan lingkungan pilihan Anda. Kirimkan Ray Job ke cluster Ray di Vertex AI menggunakan Vertex AI SDK untuk Python, Ray Job CLI, atau dasbor Ray.
Men-deploy model yang telah dilatih ke endpoint Vertex AI online untuk prediksi.
Gunakan BigQuery untuk mengelola data Anda.
Harga
Harga untuk Ray on Vertex AI dihitung sebagai berikut:
Resource komputasi yang Anda gunakan ditagih berdasarkan konfigurasi mesin yang Anda pilih saat membuat cluster Ray di Vertex AI. Selama Pratinjau, penggunaan Ray on Vertex AI dikenai biaya dengan tarif yang sama seperti model yang dilatih Kustom. Setelah Ketersediaan Umum (GA), harga akan naik untuk mencerminkan harga Ray on Vertex AI. Anda akan diberi tahu tentang perubahan harga saat Ray di Vertex AI beralih ke GA.
Saat Anda menjalankan tugas menggunakan cluster Ray di Vertex AI, log akan otomatis dibuat dan dikenai biaya berdasarkan harga Cloud Logging.
Jika Anda men-deploy model ke endpoint untuk prediksi online, lihat bagian "Prediksi dan penjelasan" di halaman harga Vertex AI.
Jika Anda menggunakan BigQuery dengan Ray di Vertex AI, lihat harga BigQuery.