Dokumen ini menjelaskan cara menginstal dan mengonfigurasi Vertex AI SDK untuk ABAP di lingkungan SAP Anda.
Penginstalan
Saat Anda menginstal ABAP SDK versi 1.8 di infrastruktur lokal atau edisi cloud ABAP SDK for Google Cloud apa pun, Vertex AI SDK untuk ABAP telah diinstal untuk Anda. Untuk mengetahui informasi tentang langkah-langkah penginstalannya, lihat Menginstal dan mengonfigurasi ABAP SDK for Google Cloud edisi lokal atau edisi cloud apa pun.
Jika Anda sudah menggunakan ABAP SDK for Google Cloud edisi lokal atau edisi cloud versi 1.7 atau yang lebih lama, update SDK Anda ke versi terbaru guna mendapatkan Vertex AI SDK untuk ABAP. Untuk informasi selengkapnya, lihat Mengupdate ABAP SDK untuk Google Cloud.
Mengaktifkan Vertex AI API
Aktifkan Vertex AI API di project Google Cloud Anda.
Untuk mengetahui informasi tentang cara mengaktifkan Google Cloud API, lihat Mengaktifkan API.
Autentikasi
Setelah Anda menyiapkan autentikasi untuk mengakses Google Cloud API di infrastruktur lokal Anda atau ABAP SDK for Google Cloud edisi cloud apa pun, Vertex AI SDK untuk ABAP menggunakan metode autentikasi yang sama untuk mengakses Vertex AI API. Untuk mengetahui informasi tentang cara menyiapkan autentikasi di infrastruktur lokal atau edisi cloud ABAP SDK untuk Google Cloud apa pun, lihat Ringkasan autentikasi.
Catat kunci klien yang telah Anda buat sebagai bagian dari penyiapan autentikasi. Anda menggunakan kunci klien ini saat mengonfigurasi parameter pembuatan model AI dan parameter penelusuran.
Izin IAM
Pastikan akun layanan khusus untuk akses API yang telah Anda konfigurasikan di tabel kunci klien memiliki akses ke resource Vertex AI.
Vertex AI
Untuk menggunakan resource Vertex AI, Anda harus memberikan izin
Pengguna Vertex AI (roles/aiplatform.user
)
ke akun layanan khusus yang telah Anda berikan
izin untuk mengakses Vertex AI API.
Jika Anda perlu memberikan izin akses khusus untuk membuat, memodifikasi, men-deploy artefak, lalu memberikan izin IAM Vertex AI tertentu yang sesuai.
Vertex AI Feature Store
Untuk menggunakan Vertex AI Feature Store, Anda harus memberikan peran berikut ke akun layanan:
Kemampuan AI | Peran IAM yang diperlukan |
---|---|
Vertex AI Feature Store |
Mengonfigurasi parameter pembuatan model
Model bahasa besar (LLM) adalah model deep learning yang dilatih dengan jumlah data teks. Model menyertakan parameter value yang mengontrol cara model akan menghasilkan respons. Model ini dapat menghasilkan hasil yang berbeda untuk parameter value yang berbeda.
Untuk menentukan parameter pembuatan
untuk suatu model, Vertex AI SDK untuk ABAP menggunakan tabel /GOOG/AI_CONFIG
.
Untuk memperbarui tabel /GOOG/AI_CONFIG
, lakukan langkah-langkah berikut:
Di GUI SAP, jalankan kode transaksi
/GOOG/SDK_IMG
.Atau, jalankan kode transaksi
SPRO
, lalu klik SAP Reference IMG.Klik ABAP SDK for Google Cloud > Setelan Dasar > Vertex AI SDK: Konfigurasi Parameter Pembuatan Model.
Klik New Entries.
Masukkan nilai untuk kolom berikut:
Kolom Jenis data Deskripsi Model Key
String Nama unik yang Anda tentukan untuk mengidentifikasi konfigurasi model, seperti
Gemini
.Anda menggunakan kunci model ini saat membuat instance model generatif atau class embedding untuk menentukan konfigurasi pembuatan yang akan diterapkan.
Model ID
String ID model LLM, seperti
gemini-1.5-flash-001
.Untuk mengetahui informasi tentang versi model Vertex AI, lihat Versi dan siklus proses model.
Google Cloud Key Name
String Kunci klien yang telah Anda konfigurasi untuk melakukan autentikasi ke Google Cloud selama penyiapan autentikasi. Google Cloud Region Location ID
String ID lokasi region Google Cloud tempat fitur Vertex AI yang ingin Anda gunakan sudah tersedia.
Biasanya, Anda menggunakan wilayah yang paling dekat dengan lokasi fisik Anda atau lokasi fisik pengguna yang Anda tuju. Untuk mengetahui informasi selengkapnya, lihat lokasi Vertex AI.
Publisher ID of the LLM
String Opsional. Penayang LLM, seperti google
.Response MIME type
String Opsional. Jenis MIME respons output dari teks kandidat yang dihasilkan. Jenis MIME yang didukung: text/plain
: (default) Output teks.application/json
: Respons JSON pada kandidat.
Randomness temperature
String Opsional. Mengontrol keacakan prediksi. Untuk mengetahui informasi selengkapnya, lihat Suhu.
Rentang: [0,0, 1,0]
Top-K Sampling
Float Opsional. Top-K mengubah cara model memilih token untuk output.
Tentukan nilai yang lebih rendah untuk respons acak yang lebih sedikit dan nilai yang lebih tinggi untuk respons acak yang lebih banyak. Untuk informasi selengkapnya, lihat Top-K.
Rentang: [1, 40]
Top-P Sampling
Float Opsional. Top-P mengubah cara model memilih token untuk output.
Tentukan nilai yang lebih rendah untuk respons acak yang lebih sedikit dan nilai yang lebih tinggi untuk respons acak yang lebih banyak. Untuk mengetahui informasi selengkapnya, lihat Top-P.
Rentang: [0,0, 1,0]
Maximum number of output tokens per msg
Bilangan bulat Opsional. Jumlah maksimum token yang dapat dibuat dalam respons. J terdiri dari kira-kira empat karakter. 100 token setara dengan sekitar 60-80 kata.
Tentukan nilai yang lebih rendah untuk respons yang lebih singkat dan nilai yang lebih tinggi untuk respons yang berpotensi lebih panjang.
Positive Penalties
Float Opsional. Nilai positif akan menghukum token yang telah muncul dalam teks yang dihasilkan, sehingga meningkatkan kemungkinan untuk menghasilkan lebih banyak topik yang beragam.
Rentang: [-2.0, 2.0]
Frequency Penalties
Float Opsional. Nilai positif akan menghukum token yang berulang kali muncul dalam teks yang dihasilkan, sehingga mengurangi kemungkinan pengulangan konten yang sama.
Rentang: [-2.0, 2.0]
Jika Anda tidak memberikan nilai untuk parameter opsional, SDK akan menggunakan nilai default parameter yang khusus untuk versi model yang dikonfigurasi di
Model ID
.Simpan entri baru.
Mengonfigurasi parameter Penelusuran Vektor
Untuk menentukan konfigurasi Vector Search, Vertex AI SDK untuk ABAP
menggunakan tabel /GOOG/SEARCHCONF
.
Untuk memperbarui tabel /GOOG/SEARCHCONF
, lakukan langkah-langkah berikut:
Di GUI SAP, jalankan kode transaksi
/GOOG/SDK_IMG
.Atau, jalankan kode transaksi
SPRO
, lalu klik SAP Reference IMG.Klik ABAP SDK for Google Cloud > Setelan Dasar > Vertex AI SDK: Konfigurasi Parameter Penelusuran Vektor.
Klik New Entries.
Masukkan nilai untuk kolom berikut:
Kolom Jenis data Deskripsi Search Key
String Nama unik yang Anda tentukan untuk mengidentifikasi konfigurasi penelusuran. Google Cloud Key Name
String Kunci klien yang telah Anda konfigurasi untuk melakukan autentikasi ke Google Cloud selama penyiapan autentikasi. Google Cloud Region Location ID
String ID lokasi region Google Cloud tempat fitur Vertex AI yang ingin Anda gunakan tersedia.
Biasanya, Anda menggunakan wilayah yang paling dekat dengan lokasi fisik Anda atau lokasi fisik pengguna yang Anda tuju. Untuk mengetahui informasi selengkapnya, lihat lokasi Vertex AI.
Deployment ID of Vector Index
String ID deployment indeks. Saat Anda men-deploy indeks ke Anda menetapkan ID deployment yang unik. Untuk mengetahui informasi tentang deployment indeks, lihat Men-deploy indeks vektor ke endpoint indeks.
Vector Index Endpoint ID
String ID endpoint indeks tempat indeks di-deploy.
Untuk mengetahui informasi tentang endpoint indeks, lihat Membuat endpoint indeks vektor.
Simpan entri baru.
Langkah selanjutnya
- Pelajari demo AI Generatif bawaan untuk SAP.
- Pelajari Generative AI di Vertex AI untuk SAP.