Bermigrasi dari Gemini di Google AI ke Vertex AI

Jika Anda baru menggunakan Gemini, menggunakan panduan memulai adalah cara tercepat untuk memulai.

Namun, seiring dengan berkembangnya solusi AI generatif, Anda mungkin memerlukan platform untuk membangun dan men-deploy aplikasi dan solusi AI generatif secara menyeluruh. Google Cloud menyediakan ekosistem alat yang komprehensif untuk memungkinkan developer memanfaatkan kecanggihan AI generatif, mulai dari tahap awal pengembangan aplikasi hingga deployment aplikasi, hosting aplikasi, dan mengelola data kompleks dalam skala besar.

Platform Vertex AI Google Cloud menawarkan rangkaian alat MLOps yang menyederhanakan penggunaan, deployment, dan pemantauan model AI untuk efisiensi dan keandalan. Selain itu, integrasi dengan database, alat DevOps, logging, pemantauan, dan IAM memberikan pendekatan holistik untuk mengelola seluruh siklus proses AI generatif.

Kasus penggunaan umum untuk penawaran Google Cloud

Berikut adalah beberapa contoh kasus penggunaan umum yang sangat cocok untuk penawaran Google Cloud.

  • Produksikan aplikasi dan solusi Anda. Produk seperti fungsi Cloud Run dan Cloud Run memungkinkan Anda men-deploy aplikasi dengan skala, keamanan, dan privasi tingkat perusahaan. Temukan detail selengkapnya tentang keamanan dan privasi di panduan Keamanan, Privasi, dan Kepatuhan Cloud di Google Cloud.
  • Gunakan Vertex AI untuk kemampuan MLOps menyeluruh, mulai dari penyesuaian hingga penelusuran kemiripan vektor dan pipeline ML.
  • Memicu panggilan LLM dengan arsitektur berbasis peristiwa dengan fungsi Cloud Run atau Cloud Run.
  • Pantau penggunaan aplikasi Anda dengan Cloud Logging dan BigQuery.
  • Simpan data Anda dengan keamanan tingkat perusahaan, dalam skala besar dengan layanan seperti BigQuery, Cloud Storage, dan Cloud SQL.
  • Lakukan pembuatan yang ditingkatkan pengambilan (RAG) menggunakan data di cloud dengan BigQuery atau Cloud Storage.
  • Membuat dan menjadwalkan pipeline data. Anda dapat menjadwalkan tugas menggunakan Cloud Scheduler.
  • Terapkan LLM ke data Anda di cloud. Jika menyimpan data di Cloud Storage atau BigQuery, Anda dapat meminta LLM untuk data tersebut. Misalnya, untuk mengekstrak informasi, meringkas, atau mengajukan pertanyaan tentang informasi tersebut.
  • Manfaatkan kebijakan tata kelola/residensi data Google Cloud untuk mengelola siklus proses data Anda.

Perbedaan Google AI dan Vertex AI

Tabel berikut meringkas perbedaan utama antara Google AI dan Vertex AI untuk membantu Anda memutuskan opsi yang tepat untuk kasus penggunaan Anda:

Fitur Google AI Gemini API Vertex AI Gemini API
Model Gemini Gemini 1.5 Flash, Gemini 1.5 Pro, Gemini 1.0 Pro, Gemini 1.0 Pro Vision (tidak digunakan lagi) Gemini 1.5 Flash, Gemini 1.5 Pro, Gemini 1.0 Pro, Gemini 1.0 Pro Vision, Gemini 1.0 Ultra, Gemini 1.0 Ultra Vision
Daftar Akun Google Akun Google Cloud (dengan perjanjian persyaratan dan penagihan)
Autentikasi Kunci API Akun layanan Google Cloud
Playground antarmuka pengguna Google AI Studio Vertex AI Studio
API & SDK SDK server dan klien seluler/web
  • Server: Python, Node.js, Go, Dart, ABAP
  • Klien Seluler/Web: Android (Kotlin/Java), Swift, Web, Flutter
 SDK server dan klien seluler/web
  • Server: Python, Node.js, Go, Java, ABAP
  • Klien Seluler/Web (melalui Vertex AI for Firebase): Android (Kotlin/Java), Swift, Web, Flutter
Penggunaan API & SDK tanpa biaya Ya, jika berlaku Kredit Google Cloud senilai $300 untuk pengguna baru
Kuota (permintaan per menit) Bervariasi berdasarkan model dan paket harga (lihat informasi mendetail) Bervariasi berdasarkan model dan wilayah (lihat informasi mendetail)
Dukungan untuk perusahaan Tidak Kunci enkripsi pelanggan
Virtual Private Cloud
Kedudukan data
Transparansi akses
Infrastruktur yang skalabel untuk hosting aplikasi
Database dan penyimpanan data
MLOps Tidak ada MLOps lengkap di Vertex AI (contoh: evaluasi model, Pemantauan Model, Model Registry)

Bermigrasi ke Vertex AI

Bagian ini menunjukkan cara bermigrasi dari Gemini di Google AI ke Vertex AI.

Pertimbangan saat melakukan migrasi

Pertimbangkan hal berikut saat melakukan migrasi:

  • Anda dapat menggunakan project Google Cloud yang ada (sama dengan yang digunakan untuk membuat kunci API) atau membuat project Google Cloud baru.

  • Wilayah yang didukung mungkin berbeda antara Google AI Studio dan Vertex AI. Lihat daftar region yang didukung untuk AI generatif di Google Cloud.

  • Setiap model yang Anda buat di Google AI Studio perlu dilatih ulang di Vertex AI.

Mulai menggunakan Vertex AI Studio

Proses yang Anda ikuti untuk bermigrasi ke Vertex AI berbeda, bergantung pada apakah Anda sudah memiliki akun Google Cloud atau baru menggunakan Google Cloud.

Untuk mempelajari cara bermigrasi ke Vertex AI, klik salah satu tab berikut, bergantung pada status akun Google Cloud Anda:

Sudah menggunakan Google Cloud

  1. Login ke Google AI Studio.

  2. Di bagian bawah panel navigasi kiri, klik Build with Vertex AI on Google Cloud.

    Halaman Coba Vertex AI dan Google Cloud secara gratis akan terbuka.

  3. Klik Setuju & Lanjutkan.

    Dialog Mulai menggunakan Vertex AI Studio akan muncul.

  4. Untuk mengaktifkan API yang diperlukan untuk menjalankan Vertex AI, klik Setuju & Lanjutkan.

    Konsol Vertex AI akan muncul. Untuk mempelajari cara memigrasikan data Anda dari Google AI studio, lihat Memigrasikan Perintah.

Pengguna baru Google Cloud

  1. Login ke Google AI Studio.

  2. Di bagian bawah panel navigasi kiri, klik Build with Vertex AI on Google Cloud.

    Halaman Buat akun untuk memulai Google Cloud akan terbuka.

  3. Klik Setuju & Lanjutkan.

    Halaman Mari kita konfirmasi identitas Anda akan muncul.

  4. Klik Mulai Gratis.

    Dialog Mulai menggunakan Vertex AI Studio akan muncul.

  5. Untuk mengaktifkan API yang diperlukan untuk menjalankan Vertex AI, klik Setuju & Lanjutkan.

  6. Opsional: Untuk mempelajari cara memigrasikan data dari Google AI Studio, lihat Memigrasikan Perintah di halaman ini Memigrasikan Perintah.

Python: Bermigrasi ke Vertex AI Gemini API

Bagian berikut menunjukkan cuplikan kode untuk membantu Anda memigrasikan kode Python agar dapat menggunakan Vertex AI Gemini API.

Penyiapan Vertex AI Python SDK

Di Vertex AI, Anda tidak memerlukan kunci API. Sebagai gantinya, Gemini di Vertex AI dikelola menggunakan akses IAM, yang mengontrol izin bagi pengguna, grup, atau akun layanan untuk memanggil Gemini API melalui Vertex AI SDK.

Meskipun ada banyak cara untuk melakukan autentikasi, metode termudah untuk melakukan autentikasi di lingkungan pengembangan adalah dengan menginstal Google Cloud CLI, lalu menggunakan kredensial pengguna Anda untuk login ke CLI.

Untuk melakukan panggilan inferensi ke Vertex AI, Anda juga harus memastikan bahwa akun pengguna atau layanan Anda memiliki peran Pengguna Vertex AI.

Contoh kode untuk menginstal klien

AI Google Vertex AI 
# To install the Python SDK, use this CLI command:
# pip install google-generativeai

import google.generativeai as genai
from google.generativeai import GenerativeModel

API_KEY="API_KEY"
genai.configure(api_key=API_KEY)
        
# To install the Python SDK, use this CLI command:
# pip install google-cloud-aiplatform

import vertexai
from vertexai.generative_models import GenerativeModel, Image

PROJECT_ID = "PROJECT_ID"
REGION = "REGION"  # e.g. us-central1
vertexai.init(project=PROJECT_ID, location=REGION)

Contoh kode untuk membuat teks dari perintah teks

AI Google Vertex AI 
model = GenerativeModel("gemini-1.5-flash")

response = model.generate_content("The opposite of hot is")
print(response.text) #  The opposite of hot is cold.
        
model = GenerativeModel("gemini-1.5-flash")

response = model.generate_content("The opposite of hot is")
print(response.text) #  The opposite of hot is cold.

Contoh kode untuk membuat teks dari teks dan gambar

AI Google Vertex AI 
import PIL.Image

multimodal_model = GenerativeModel("gemini-1.5-flash")

image = PIL.Image.open("image.jpg")

response = multimodal_model.generate_content(["What is this picture?", image])
print(response.text) # A cat is shown in this picture.
        
multimodal_model = GenerativeModel("gemini-1.5-flash")

image = Image.load_from_file("image.jpg")

response = multimodal_model.generate_content(["What is shown in this image?", image])

print(response.text) # A cat is shown in this picture.

Contoh kode untuk membuat chat multi-giliran

AI Google Vertex AI 
model = GenerativeModel("gemini-1.5-flash")

chat = model.start_chat()

print(chat.send_message("How are you?").text)
print(chat.send_message("What can you do?").text)
        
model = GenerativeModel("gemini-1.5-flash")

chat = model.start_chat()

print(chat.send_message("How are you?").text)
print(chat.send_message("What can you do?").text)

Memigrasikan perintah ke Vertex AI Studio

Data perintah Google AI Studio Anda disimpan di folder Google Drive. Bagian ini menunjukkan cara memigrasikan perintah ke Vertex AI Studio.

  1. Buka Google Drive.
  2. Buka folder AI_Studio tempat perintah disimpan. Lokasi perintah di Google Drive

  3. Download perintah dari Google Drive ke direktori lokal.

  4. Buka Vertex AI Studio di konsol Google Cloud.

  5. Di menu Vertex AI, klik Pengelolaan perintah.

  6. Klik Impor perintah.

  7. Di kolom Prompt file, klik Browse, lalu pilih perintah dari direktori lokal Anda.

    Untuk mengupload perintah secara massal, Anda harus menggabungkan perintah secara manual ke dalam satu file JSON.

  8. Klik Upload.

    Perintah diupload ke tab Perintah Saya.

Mengupload data pelatihan ke Vertex AI Studio

Untuk memigrasikan data pelatihan ke Vertex AI, Anda harus mengupload data ke bucket Cloud Storage. Untuk mengetahui informasi selengkapnya, lihat Pengantar penyesuaian .

Menghapus Kunci API yang tidak digunakan

Jika Anda tidak perlu lagi menggunakan kunci API Gemini Google AI, ikuti praktik terbaik keamanan dan hapus kunci tersebut.

Untuk menghapus kunci API:

  1. Buka halaman Kredensial Google Cloud API.

  2. Temukan kunci API yang ingin dihapus, lalu klik ikon Actions.

  3. Pilih Hapus kunci API.

  4. Di modal Delete credential, pilih Delete.

    Penghapusan kunci API memerlukan waktu beberapa menit untuk diterapkan. Setelah propagasi selesai, traffic yang menggunakan kunci API yang dihapus akan ditolak.

Langkah selanjutnya