Bermigrasi dari Gemini di Google AI ke Vertex AI

Jika Anda baru menggunakan Gemini, menggunakan panduan memulai adalah cara tercepat untuk memulai.

Namun, seiring berkembangnya solusi AI generatif Anda, Anda mungkin memerlukan platform untuk membangun serta men-deploy aplikasi dan solusi AI generatif secara menyeluruh. Google Cloud menyediakan ekosistem alat komprehensif untuk memungkinkan developer memanfaatkan kecanggihan AI generatif, mulai dari tahap awal pengembangan aplikasi hingga deployment aplikasi, hosting aplikasi, dan pengelolaan data kompleks dalam skala besar.

Platform Vertex AI Google Cloud menawarkan serangkaian alat MLOps yang menyederhanakan penggunaan, deployment, dan pemantauan model AI untuk efisiensi dan keandalan. Selain itu, integrasi dengan database, alat DevOps, logging, pemantauan, dan IAM memberikan pendekatan menyeluruh untuk mengelola seluruh siklus proses AI generatif.

Selain itu, integrasi dengan database, alat DevOps, logging, pemantauan, dan IAM memberikan pendekatan menyeluruh untuk mengelola seluruh siklus proses AI generatif.

Berikut ini beberapa contoh kasus penggunaan umum yang sangat cocok untuk penawaran Google Cloud.

  • Buat aplikasi dan solusi Anda. Produk seperti Cloud Functions dan Cloud Run memungkinkan Anda men-deploy aplikasi dengan skala, keamanan, dan privasi tingkat perusahaan. Temukan detail selengkapnya tentang keamanan dan privasi di panduan Keamanan, Privasi, dan Kepatuhan Cloud di Google Cloud.
  • Gunakan Vertex AI untuk kemampuan MLOps secara menyeluruh, mulai dari penyesuaian ke pipeline penelusuran kesamaan vektor dan ML.
  • Picu panggilan LLM dengan arsitektur berbasis peristiwa dengan Cloud Functions atau Cloud Run.
  • Pantau penggunaan aplikasi Anda dengan Cloud Logging dan BigQuery.
  • Simpan data Anda dengan keamanan tingkat perusahaan, dalam skala besar dengan layanan seperti BigQuery, Cloud Storage, dan Cloud SQL.
  • Lakukan pembuatan retrieval-augmented (RAG) menggunakan data di cloud dengan BigQuery atau Cloud Storage.
  • Membuat dan menjadwalkan pipeline data. Anda dapat menjadwalkan tugas menggunakan Cloud Scheduler.
  • Terapkan LLM ke data Anda di cloud. Jika menyimpan data di Cloud Storage atau BigQuery, Anda dapat meminta LLM atas data tersebut. Misalnya, untuk mengekstrak informasi, rangkum atau ajukan pertanyaan tentang data tersebut.
  • Manfaatkan kebijakan tata kelola/residensi Google Cloud untuk mengelola siklus proses data Anda.

Perbedaan Google AI versus Vertex AI

Tabel berikut merangkum perbedaan utama antara Google AI dan Vertex AI untuk membantu Anda memutuskan opsi yang tepat untuk kasus penggunaan Anda:

Fitur Google AI Gemini API Google Cloud Vertex AI Gemini API
Model Gemini terbaru Gemini Pro dan Gemini Ultra Gemini Pro dan Gemini Ultra
Daftar Akun Google Akun Google Cloud (dengan perjanjian persyaratan dan penagihan)
Authentication Kunci API Akun layanan Google Cloud
Playground antarmuka pengguna Google AI Studio Vertex AI Studio
API & SDK Python, Node.js, Android (Kotlin/Java), Swift, Go SDK mendukung Python, Node.js, Java, Go
Paket gratis Ya Kredit Google Cloud senilai $300 untuk pengguna baru
Kuota (Permintaan per menit) 60 (dapat meminta penambahan) Tingkatkan sesuai permintaan (default: 60)
Dukungan untuk perusahaan Tidak Kunci enkripsi pelanggan
Virtual private cloud
Residensi data
Transparansi akses
Infrastruktur yang skalabel untuk hosting aplikasi
Database dan penyimpanan data
MLOps Tidak MLOps Penuh di Vertex AI (Contoh: evaluasi model, Pemantauan Model, Registry Model)

Bermigrasi ke Vertex AI

Bagian ini menunjukkan cara melakukan migrasi dari penggunaan Google AI Gemini ke Vertex AI Gemini di Google Cloud.

Pertimbangan saat melakukan migrasi

Pertimbangkan hal berikut saat melakukan migrasi:

  • Anda dapat menggunakan project Google Cloud yang sudah ada (yang sama dengan yang digunakan untuk membuat kunci API) atau membuat project Google Cloud baru.

  • Region yang didukung mungkin berbeda antara Google AI Studio dan Vertex AI. Lihat daftar region yang didukung untuk AI generatif di Google Cloud.

  • Setiap model yang Anda buat di Google AI Studio perlu dilatih ulang di Vertex AI.

Mulai gunakan Vertex AI Studio

Proses yang Anda ikuti untuk bermigrasi ke Vertex AI berbeda, bergantung pada apakah Anda sudah memiliki akun Google Cloud atau baru menggunakan Google Cloud.

Untuk mempelajari cara bermigrasi ke Vertex AI, klik salah satu tab berikut, bergantung pada status akun Google Cloud Anda:

Sudah menggunakan Google Cloud

  1. Login ke Google AI Studio.

  2. Di bagian bawah panel navigasi kiri, klik Build with Vertex AI on Google Cloud.

    Halaman Coba Vertex AI dan Google Cloud gratis akan terbuka.

  3. Klik Setuju & Lanjutkan.

    Dialog Get Started with Vertex AI Studio akan muncul.

  4. Untuk mengaktifkan API yang diperlukan guna menjalankan Vertex AI, klik Agree & Continue.

    Konsol Vertex AI akan muncul. Untuk mempelajari cara memigrasikan data Anda dari Google AI Studio, lihat Migrasi Perintah.

Baru menggunakan Google Cloud

  1. Login ke Google AI Studio.

  2. Di bagian bawah panel navigasi kiri, klik Build with Vertex AI on Google Cloud.

    Halaman Buat akun untuk memulai Google Cloud akan terbuka.

  3. Klik Setuju & Lanjutkan.

    Halaman Mari konfirmasi identitas Anda akan muncul.

  4. Klik Mulai Gratis.

    Dialog Get Started with Vertex AI Studio akan muncul.

  5. Untuk mengaktifkan API yang diperlukan guna menjalankan Vertex AI, klik Agree & Continue.

  6. Opsional: Untuk mempelajari cara memigrasikan data Anda dari Google AI Studio, lihat Migrasi Perintah di halaman ini Migrasi Perintah.

Python: Bermigrasi ke Vertex AI Gemini API

Bagian berikut menampilkan cuplikan kode untuk membantu Anda memigrasikan kode Python agar dapat menggunakan Vertex AI Gemini API.

Penyiapan Vertex AI Python SDK

Di Vertex AI, Anda tidak memerlukan kunci API. Sebagai gantinya, Gemini di Vertex AI dikelola menggunakan akses IAM, yang mengontrol izin bagi pengguna, grup, atau akun layanan untuk memanggil Gemini API melalui Vertex AI SDK.

Meskipun ada banyak cara untuk mengautentikasi, metode termudah untuk mengautentikasi di lingkungan pengembangan adalah dengan menginstal Google Cloud CLI, lalu menggunakan kredensial pengguna Anda untuk login ke CLI.

Untuk membuat panggilan inferensi ke Vertex AI, Anda juga harus memastikan bahwa pengguna atau akun layanan Anda memiliki peran Pengguna Vertex AI.

Contoh kode untuk menginstal klien

AI Google Vertex AI 
# To install the Python SDK, use this CLI command:
# pip install google-generativeai

from google.generativeai import GenerativeModel
from google.colab import userdata

genai.configure(userdata.get('API_KEY'))
        
# To install the Python SDK, use this CLI command:
# pip install google-cloud-aiplatform

import vertexai
from vertexai.generative_models
          import GenerativeModel, Image

PROJECT_ID = ""
REGION = ""  # e.g. us-central1
vertexai.init(project=PROJECT_ID, location=REGION)

Contoh kode untuk membuat teks dari perintah teks

AI Google Vertex AI 
model = GenerativeModel('gemini-1.0-pro')

response = model.generate_content('The opposite of hot is')
print(response.text) #  The opposite of hot is cold.
        
model = GenerativeModel('gemini-1.0-pro')

response = model.generate_content('The opposite of hot is')
print(response.text) #  The opposite of hot is cold.

Contoh kode untuk menghasilkan teks dari teks dan gambar

AI Google Vertex AI 
import PIL.Image

multimodal_model = GenerativeModel('gemini-1.0-pro-vision')

image = PIL.Image.open('image.jpg')

response = multimodal_model.generate_content(['What is this picture?', image])
print(response.text) # A cat is shown in this picture.
        
multimodal_model = GenerativeModel("gemini-1.0-pro-vision")

image = Image.load_from_file("image.jpg")

response = multimodal_model.generate_content(["What is shown in this image?", image])

print(response.text) # A cat is shown in this picture.

Contoh kode untuk membuat chat multi-giliran

AI Google Vertex AI 
model = GenerativeModel('gemini-1.0-pro')

chat = model.start_chat()

print(chat.send_message("How are you?").text)
print(chat.send_message("What can you do?").text)
        
model = GenerativeModel("gemini-1.0-pro")

chat = model.start_chat()

print(chat.send_message("How are you?").text)
print(chat.send_message("What can you do?").text)

Memigrasikan prompt ke Vertex AI Studio

Data perintah Google AI Studio Anda disimpan di folder Google Drive. Bagian ini menunjukkan cara memigrasikan prompt ke Vertex AI Studio.

  1. Buka Google Drive.
  2. Buka folder AI_Studio tempat perintah disimpan. Lokasi perintah di Google Drive

  3. Download perintah Anda dari Google Drive ke direktori lokal.

  4. Buka Vertex AI Generative AI Studio di Konsol Google Cloud.

  5. Di menu Vertex AI, klik Language.

  6. Klik tab Permintaan saya.

  7. Klik Import prompt.

  8. Di kolom Prompt file, klik Browse, lalu pilih perintah dari direktori lokal Anda.

    Untuk mengupload perintah secara massal, Anda harus menggabungkan perintah secara manual ke dalam satu file JSON.

  9. Klik Upload.

    Perintah diupload ke tab Perintah Saya.

Mengupload data pelatihan ke Vertex AI Studio

Untuk memigrasikan data pelatihan ke Vertex AI, Anda harus mengupload data tersebut ke bucket Google Cloud Storage. Untuk mengetahui informasi selengkapnya, baca Menyesuaikan model dasar bahasa.

Menghapus Kunci API yang tidak digunakan

Jika Anda tidak perlu lagi menggunakan kunci Google AI Gemini API, ikuti praktik terbaik keamanan dan hapus.

Langkah selanjutnya