Menginstal dan mengonfigurasi Vertex AI SDK untuk ABAP

Dokumen ini menjelaskan cara menginstal dan mengonfigurasi Vertex AI SDK untuk ABAP di lingkungan SAP Anda.

Penginstalan

Saat Anda menginstal ABAP SDK untuk Google Cloud edisi cloud atau versi 1.8 versi lokal, Vertex AI SDK untuk ABAP akan diinstal untuk Anda. Untuk informasi tentang langkah-langkah penginstalan, lihat Menginstal dan mengonfigurasi ABAP SDK untuk Google Cloud edisi cloud atau on-premise.

Jika Anda sudah menggunakan ABAP SDK untuk Google Cloud edisi cloud atau versi on-premise versi 1.7 atau yang lebih lama, update SDK Anda ke versi terbaru untuk mendapatkan Vertex AI SDK untuk ABAP. Untuk informasi selengkapnya, lihat Mengupdate ABAP SDK untuk Google Cloud.

Kami memahami bahwa akses ke Vertex AI dan resource cloud mungkin terbatas untuk beberapa developer. Untuk mengaktifkan pembuatan prototipe dan eksperimen dengan penyiapan minimal, lihat Pembuatan prototipe cepat dengan Gemini.

Mengaktifkan Vertex AI API

Aktifkan Vertex AI API di project Google Cloud Anda.

Vertex AI API

Untuk mengetahui informasi tentang cara mengaktifkan Google Cloud API, lihat Mengaktifkan API.

Autentikasi

Setelah Anda menyiapkan autentikasi untuk mengakses Google Cloud API di ABAP SDK untuk Google Cloud edisi cloud atau on-premise, Vertex AI SDK untuk ABAP akan menggunakan metode autentikasi yang sama untuk mengakses Vertex AI API. Untuk mengetahui informasi tentang cara menyiapkan autentikasi di ABAP SDK untuk Google Cloud edisi cloud atau lokal, lihat Ringkasan autentikasi.

Catat kunci klien yang telah Anda buat sebagai bagian dari penyiapan autentikasi. Anda menggunakan kunci klien ini saat mengonfigurasi parameter pembuatan model AI dan parameter penelusuran.

Izin IAM

Pastikan akun layanan khusus untuk akses API yang telah Anda konfigurasikan di tabel kunci klien memiliki akses ke resource Vertex AI.

Vertex AI

Untuk menggunakan resource Vertex AI, Anda harus memberikan peran Vertex AI User (roles/aiplatform.user) ke akun layanan khusus yang telah Anda beri izin untuk mengakses Vertex AI API.

Jika Anda perlu memberikan izin tertentu untuk membuat, mengubah, men-deploy artefak, berikan izin IAM Vertex AI tertentu sebagaimana mestinya.

Vertex AI Feature Store

Untuk menggunakan Vertex AI Feature Store, Anda harus memberikan peran berikut ke akun layanan:

Kemampuan AI Peran IAM yang diperlukan
Vertex AI Feature Store

Mengonfigurasi parameter pembuatan model

Model bahasa besar (LLM) adalah model deep learning yang dilatih pada data teks dalam jumlah besar. Model menyertakan parameter value yang mengontrol cara model menghasilkan respons. Anda bisa mendapatkan hasil yang berbeda dari model dengan mengubah parameter value.

Untuk menentukan parameter pembuatan untuk model, Vertex AI SDK untuk ABAP menggunakan tabel /GOOG/AI_CONFIG.

Untuk mengonfigurasi parameter pembuatan model, lakukan langkah-langkah berikut:

  1. Di SAP GUI, jalankan kode transaksi /GOOG/SDK_IMG.

    Atau, jalankan kode transaksi SPRO, lalu klik IMG Referensi SAP.

  2. Klik ABAP SDK for Google Cloud > Basic Settings > Vertex AI SDK: Configure Model Generation Parameters.

  3. Klik New Entries.

  4. Masukkan nilai untuk kolom berikut:

    Kolom Jenis data Deskripsi
    Kunci Model String

    Nama unik yang Anda tentukan untuk mengidentifikasi konfigurasi model, seperti Gemini.

    Anda menggunakan kunci model ini saat membuat instance class model generative atau class penyematan untuk menentukan konfigurasi pembuatan yang akan diterapkan.
    ID Model String

    ID model LLM, seperti gemini-1.5-flash-001.

    Untuk mengetahui informasi tentang versi model Vertex AI, lihat Versi dan siklus proses model.
    Nama Kunci Google Cloud String Kunci klien yang telah Anda konfigurasi untuk autentikasi ke Google Cloud selama penyiapan autentikasi.
    ID Lokasi Region Google Cloud String

    ID lokasi region Google Cloud tempat fitur Vertex AI yang ingin Anda gunakan tersedia.

    Biasanya, Anda menggunakan region yang paling dekat dengan lokasi fisik Anda atau lokasi fisik pengguna yang dituju. Untuk mengetahui informasi selengkapnya, lihat Lokasi Vertex AI.
    ID Penayang LLM String Opsional. Penerbit LLM, seperti google.
    Jenis MIME respons String Opsional. Jenis MIME respons output dari teks kandidat yang dihasilkan. Jenis MIME yang didukung:
    • text/plain: (default) Output teks.
    • application/json: Respons JSON di kandidat.
    Model harus diminta untuk menghasilkan jenis respons yang sesuai, jika tidak, perilakunya tidak ditentukan.
    Suhu acak String

    Opsional. Mengontrol keacakan prediksi. Untuk mengetahui informasi selengkapnya, lihat Suhu.

    Rentang: [0,0, 1,0]
    Pengambilan Sampel Top-K Float

    Opsional. Top-K mengubah cara model memilih token untuk output.

    Tentukan nilai yang lebih rendah untuk respons acak yang lebih sedikit dan nilai yang lebih tinggi untuk respons acak yang lebih banyak. Untuk mengetahui informasi selengkapnya, lihat Top-K.

    Rentang: [1, 40]
    Pengambilan Sampel Top-P Float

    Opsional. Top-P mengubah cara model memilih token untuk output.

    Tentukan nilai yang lebih rendah untuk respons acak yang lebih sedikit dan nilai yang lebih tinggi untuk respons acak yang lebih banyak. Untuk mengetahui informasi selengkapnya, lihat Top-P.

    Rentang: [0,0, 1,0]
    Jumlah maksimum token output per pesan Bilangan bulat

    Opsional. Jumlah maksimum token yang dapat dibuat dalam respons. Token terdiri dari sekitar empat karakter. 100 token setara dengan sekitar 60-80 kata.

    Tentukan nilai yang lebih rendah untuk respons yang lebih singkat dan nilai yang lebih tinggi untuk respons yang berpotensi lebih panjang.
    Denda Positif Float

    Opsional. Nilai positif akan menghukum token yang telah muncul dalam teks yang dihasilkan, sehingga meningkatkan kemungkinan untuk menghasilkan lebih banyak topik yang beragam.

    Rentang: [-2,0, 2,0]
    Denda Frekuensi Float

    Opsional. Nilai positif akan menghukum token yang berulang kali muncul dalam teks yang dihasilkan, sehingga mengurangi kemungkinan pengulangan konten yang sama.

    Rentang: [-2,0, 2,0]

    Jika Anda tidak memberikan nilai untuk parameter opsional, SDK akan menggunakan nilai default parameter yang khusus untuk versi model yang dikonfigurasi di Model ID.

  5. Simpan entri baru.

Mengonfigurasi parameter Vector Search

Untuk menentukan konfigurasi Penelusuran Vektor, Vertex AI SDK untuk ABAP menggunakan tabel /GOOG/SEARCHCONF.

Untuk mengonfigurasi parameter Penelusuran Vektor, lakukan langkah-langkah berikut:

  1. Di SAP GUI, jalankan kode transaksi /GOOG/SDK_IMG.

    Atau, jalankan kode transaksi SPRO, lalu klik IMG Referensi SAP.

  2. Klik ABAP SDK for Google Cloud > Basic Settings > Vertex AI SDK: Configure Vector Search Parameters.

  3. Klik New Entries.

  4. Masukkan nilai untuk kolom berikut:

    Kolom Jenis data Deskripsi
    Tombol Penelusuran String Nama unik yang Anda tentukan untuk mengidentifikasi konfigurasi penelusuran.
    Nama Kunci Google Cloud String Kunci klien yang telah Anda konfigurasi untuk autentikasi ke Google Cloud selama penyiapan autentikasi.
    ID Lokasi Region Google Cloud String

    ID lokasi region Google Cloud tempat fitur Vertex AI yang ingin Anda gunakan tersedia.

    Biasanya, Anda menggunakan region yang paling dekat dengan lokasi fisik Anda atau lokasi fisik pengguna yang dituju. Untuk mengetahui informasi selengkapnya, lihat Lokasi Vertex AI.
    ID Deployment Indeks Vektor String ID deployment indeks. Saat men-deploy indeks ke endpoint, Anda menetapkan ID deployment unik.

    Untuk mengetahui informasi tentang deployment indeks, lihat Men-deploy indeks vektor ke endpoint indeks.
    ID Endpoint Indeks Vektor String

    ID endpoint indeks tempat indeks di-deploy.

    Untuk mengetahui informasi tentang endpoint indeks, lihat Membuat endpoint indeks vektor.

  5. Simpan entri baru.

Langkah selanjutnya