Menginstal dan mengonfigurasi Vertex AI SDK untuk ABAP

Dokumen ini menjelaskan cara menginstal dan mengonfigurasi Vertex AI SDK untuk ABAP di lingkungan SAP Anda.

Penginstalan

Lokal atau edisi cloud apa pun

Saat Anda menginstal ABAP SDK untuk Google Cloud edisi cloud atau versi 1.8 versi lokal, Vertex AI SDK untuk ABAP akan diinstal untuk Anda. Untuk informasi tentang langkah-langkah penginstalan, lihat Menginstal dan mengonfigurasi ABAP SDK untuk Google Cloud edisi cloud atau on-premise.

Jika Anda sudah menggunakan ABAP SDK untuk Google Cloud versi 1.7 atau yang lebih lama di lokal atau edisi cloud, update SDK Anda ke versi terbaru untuk mendapatkan Vertex AI SDK untuk ABAP. Untuk informasi selengkapnya, lihat Mengupdate ABAP SDK untuk Google Cloud.

Edisi SAP BTP

Saat Anda menginstal ABAP SDK edisi SAP BTP versi 1.1 untuk Google Cloud, Vertex AI SDK untuk ABAP akan diinstal untuk Anda. Untuk mengetahui informasi tentang langkah-langkah penginstalan, lihat Menginstal dan mengonfigurasi ABAP SDK edisi SAP BTP untuk Google Cloud.

Kami memahami bahwa akses ke Vertex AI dan resource cloud mungkin terbatas untuk beberapa developer. Untuk mengaktifkan pembuatan prototipe dan eksperimen dengan penyiapan minimal, lihat Pembuatan prototipe cepat dengan Gemini.

Mengaktifkan Vertex AI API

  • Aktifkan Vertex AI API di project Google Cloud Anda.

    Vertex AI API

    Untuk mengetahui informasi tentang cara mengaktifkan Google Cloud API, lihat Mengaktifkan API.

Autentikasi

Lokal atau edisi cloud apa pun

Setelah Anda menyiapkan autentikasi untuk mengakses Google Cloud API di ABAP SDK untuk Google Cloud edisi cloud atau lokal, Vertex AI SDK untuk ABAP akan menggunakan metode autentikasi yang sama untuk mengakses Vertex AI API. Untuk mengetahui informasi tentang cara menyiapkan autentikasi di ABAP SDK untuk Google Cloud edisi cloud atau lokal, lihat Ringkasan autentikasi.

Catat kunci klien yang telah Anda buat sebagai bagian dari penyiapan autentikasi. Anda menggunakan kunci klien ini saat mengonfigurasi parameter pembuatan model AI dan parameter penelusuran.

Edisi SAP BTP

Setelah Anda menyiapkan autentikasi untuk mengakses Google Cloud API di ABAP SDK edisi SAP BTP untuk Google Cloud, Vertex AI SDK untuk ABAP akan menggunakan metode autentikasi yang sama untuk mengakses Vertex AI API. Untuk mengetahui informasi tentang cara menyiapkan autentikasi di edisi SAP BTP ABAP SDK untuk Google Cloud, lihat Ringkasan autentikasi.

Catat kunci klien yang telah Anda buat sebagai bagian dari penyiapan autentikasi. Anda menggunakan kunci klien ini saat mengonfigurasi parameter pembuatan model AI dan parameter penelusuran.

Izin IAM

Pastikan akun layanan khusus untuk akses API yang telah Anda konfigurasikan di tabel kunci klien memiliki akses ke resource Vertex AI.

Vertex AI

Untuk menggunakan resource Vertex AI, Anda harus memberikan peran Vertex AI User (roles/aiplatform.user) ke akun layanan khusus yang telah Anda beri izin untuk mengakses Vertex AI API.

Jika Anda perlu memberikan izin tertentu untuk membuat, mengubah, men-deploy artefak, berikan izin IAM Vertex AI tertentu sebagaimana mestinya.

Vertex AI Feature Store

Untuk menggunakan Vertex AI Feature Store, Anda harus memberikan peran berikut ke akun layanan:

Kemampuan AI Peran IAM yang diperlukan
Vertex AI Feature Store

Memverifikasi penambahan aplikasi Fiori ke peluncur

Lokal atau edisi cloud apa pun

Anda dapat melewati bagian ini karena tidak berlaku untuk ABAP SDK untuk Google Cloud edisi cloud atau lokal.

Edisi SAP BTP

Agar administrator dan developer dapat mengonfigurasi parameter pembuatan model dan parameter Penelusuran Vektor, ABAP SDK untuk Google Cloud edisi SAP BTP menyediakan aplikasi SAP Fiori. SDK ini juga menyediakan aplikasi Fiori khusus tampilan untuk melihat parameter yang dikelola.

Anda menambahkan aplikasi Fiori ini ke peluncur saat menginstal ABAP SDK edisi SAP BTP untuk Google Cloud. Pastikan aplikasi ini tersedia di peluncur Anda. Untuk mengetahui informasi selengkapnya, lihat Menambahkan aplikasi Fiori ke peluncur.

Mengonfigurasi parameter pembuatan model

Model bahasa besar (LLM) adalah model deep learning yang dilatih pada data teks dalam jumlah besar. Model menyertakan parameter value yang mengontrol cara model menghasilkan respons. Anda bisa mendapatkan hasil yang berbeda dari model dengan mengubah parameter value.

Untuk menentukan parameter pembuatan untuk model, Vertex AI SDK untuk ABAP menggunakan tabel /GOOG/AI_CONFIG.

Untuk mengonfigurasi parameter pembuatan model, lakukan langkah-langkah berikut:

Lokal atau edisi cloud apa pun

  1. Di SAP GUI, jalankan kode transaksi /GOOG/SDK_IMG.

    Atau, jalankan kode transaksi SPRO, lalu klik IMG Referensi SAP.

  2. Klik ABAP SDK for Google Cloud > Basic Settings > Vertex AI SDK: Configure Model Generation Parameters.

  3. Klik New Entries.

  4. Masukkan nilai untuk kolom berikut:

    Kolom Jenis data Deskripsi
    Kunci Model String

    Nama unik yang Anda tentukan untuk mengidentifikasi konfigurasi model, seperti Gemini.

    Anda menggunakan kunci model ini saat membuat instance class model generatif atau class penyematan untuk menentukan konfigurasi pembuatan yang akan diterapkan.
    ID Model String

    ID model LLM, seperti gemini-1.5-flash-001.

    Untuk mengetahui informasi tentang versi model Vertex AI, lihat Versi dan siklus proses model.
    Nama Kunci Google Cloud String Kunci klien yang telah Anda konfigurasikan untuk autentikasi ke Google Cloud selama penyiapan autentikasi.
    ID Lokasi Region Google Cloud String

    ID lokasi Google Cloud region tempat fitur Vertex AI yang ingin Anda gunakan tersedia.

    Biasanya, Anda menggunakan region yang paling dekat dengan lokasi fisik Anda atau lokasi fisik pengguna yang dituju. Untuk mengetahui informasi selengkapnya, lihat Lokasi Vertex AI.
    ID Penayang LLM String Opsional. Penerbit LLM, seperti google.
    Jenis MIME respons String Opsional. Jenis MIME respons output dari teks kandidat yang dihasilkan. Jenis MIME yang didukung:
    • text/plain: (default) Output teks.
    • application/json: Respons JSON di kandidat.
    Model harus diminta untuk menghasilkan jenis respons yang sesuai, jika tidak, perilakunya tidak ditentukan.
    Suhu acak String

    Opsional. Mengontrol keacakan prediksi. Untuk mengetahui informasi selengkapnya, lihat Suhu.

    Rentang: [0,0, 1,0]
    Pengambilan Sampel Top-K Float

    Opsional. Top-K mengubah cara model memilih token untuk output.

    Tentukan nilai yang lebih rendah untuk respons acak yang lebih sedikit dan nilai yang lebih tinggi untuk respons acak yang lebih banyak. Untuk mengetahui informasi selengkapnya, lihat Top-K.

    Rentang: [1, 40]
    Pengambilan Sampel Top-P Float

    Opsional. Top-P mengubah cara model memilih token untuk output.

    Tentukan nilai yang lebih rendah untuk respons acak yang lebih sedikit dan nilai yang lebih tinggi untuk respons acak yang lebih banyak. Untuk mengetahui informasi selengkapnya, lihat Top-P.

    Rentang: [0,0, 1,0]
    Jumlah maksimum token output per pesan Bilangan Bulat

    Opsional. Jumlah maksimum token yang dapat dibuat dalam respons. Token terdiri dari sekitar empat karakter. 100 token setara dengan sekitar 60-80 kata.

    Tentukan nilai yang lebih rendah untuk respons yang lebih singkat dan nilai yang lebih tinggi untuk respons yang berpotensi lebih panjang.
    Denda Positif Float

    Opsional. Nilai positif akan menghukum token yang telah muncul dalam teks yang dihasilkan, sehingga meningkatkan kemungkinan untuk menghasilkan topik yang lebih beragam.

    Rentang: [-2,0, 2,0]
    Denda Frekuensi Float

    Opsional. Nilai positif akan menghukum token yang berulang kali muncul dalam teks yang dihasilkan, sehingga mengurangi kemungkinan pengulangan konten yang sama.

    Rentang: [-2,0, 2,0]

    Jika Anda tidak memberikan nilai untuk parameter opsional, SDK akan menggunakan nilai default parameter yang khusus untuk versi model yang dikonfigurasi di Model ID.

  5. Simpan entri baru.

Edisi SAP BTP

  1. Akses peluncur SAP Fiori.

  2. Buka ruang yang berisi aplikasi Fiori untuk konfigurasi SDK.

  3. Buka aplikasi Vertex AI SDK: Konfigurasi Parameter Pembuatan Model.

  4. Klik Buat.

  5. Pada dialog Create yang muncul, masukkan nilai untuk kolom Model Key, lalu klik Continue.

  6. Masukkan nilai untuk kolom yang muncul.

    Tabel berikut menjelaskan kolom dan cara kolom tersebut sesuai dengan parameter pembuatan model:

    Kolom Jenis data Deskripsi
    Kunci Model String

    Nama unik yang Anda tentukan untuk mengidentifikasi konfigurasi model, seperti Gemini.

    Anda menggunakan kunci model ini saat membuat instance class model generatif atau class penyematan untuk menentukan konfigurasi pembuatan yang akan diterapkan.
    ID Model String

    ID model LLM, seperti gemini-1.5-flash-001.

    Untuk mengetahui informasi tentang versi model Vertex AI, lihat Versi dan siklus proses model.
    Nama Kunci Google Cloud String Kunci klien yang telah Anda konfigurasikan untuk autentikasi ke Google Cloud selama penyiapan autentikasi.
    ID Lokasi Region Google Cloud String

    ID lokasi Google Cloud region tempat fitur Vertex AI yang ingin Anda gunakan tersedia.

    Biasanya, Anda menggunakan region yang paling dekat dengan lokasi fisik Anda atau lokasi fisik pengguna yang dituju. Untuk mengetahui informasi selengkapnya, lihat Lokasi Vertex AI.
    ID Penayang LLM String Opsional. Penerbit LLM, seperti google.
    Jenis MIME respons String Opsional. Jenis MIME respons output dari teks kandidat yang dihasilkan. Jenis MIME yang didukung:
    • text/plain: (default) Output teks.
    • application/json: Respons JSON di kandidat.
    Model harus diminta untuk menghasilkan jenis respons yang sesuai, jika tidak, perilakunya tidak ditentukan.
    Suhu acak String

    Opsional. Mengontrol keacakan prediksi. Untuk mengetahui informasi selengkapnya, lihat Suhu.

    Rentang: [0,0, 1,0]
    Pengambilan Sampel Top-K Float

    Opsional. Top-K mengubah cara model memilih token untuk output.

    Tentukan nilai yang lebih rendah untuk respons acak yang lebih sedikit dan nilai yang lebih tinggi untuk respons acak yang lebih banyak. Untuk mengetahui informasi selengkapnya, lihat Top-K.

    Rentang: [1, 40]
    Pengambilan Sampel Top-P Float

    Opsional. Top-P mengubah cara model memilih token untuk output.

    Tentukan nilai yang lebih rendah untuk respons acak yang lebih sedikit dan nilai yang lebih tinggi untuk respons acak yang lebih banyak. Untuk mengetahui informasi selengkapnya, lihat Top-P.

    Rentang: [0,0, 1,0]
    Jumlah maksimum token output per pesan Bilangan Bulat

    Opsional. Jumlah maksimum token yang dapat dibuat dalam respons. Token terdiri dari sekitar empat karakter. 100 token setara dengan sekitar 60-80 kata.

    Tentukan nilai yang lebih rendah untuk respons yang lebih singkat dan nilai yang lebih tinggi untuk respons yang berpotensi lebih panjang.
    Denda Positif Float

    Opsional. Nilai positif akan menghukum token yang telah muncul dalam teks yang dihasilkan, sehingga meningkatkan kemungkinan untuk menghasilkan topik yang lebih beragam.

    Rentang: [-2,0, 2,0]
    Denda Frekuensi Float

    Opsional. Nilai positif akan menghukum token yang berulang kali muncul dalam teks yang dihasilkan, sehingga mengurangi kemungkinan pengulangan konten yang sama.

    Rentang: [-2,0, 2,0]

    Jika Anda tidak memberikan nilai untuk parameter opsional, SDK akan menggunakan nilai default parameter yang khusus untuk versi model yang dikonfigurasi di Model ID.

  7. Klik Buat untuk menyimpan entri.

Mengonfigurasi parameter Vector Search

Untuk menentukan konfigurasi Penelusuran Vektor, Vertex AI SDK untuk ABAP menggunakan tabel /GOOG/SEARCHCONF.

Untuk mengonfigurasi parameter Penelusuran Vektor, lakukan langkah-langkah berikut:

Lokal atau edisi cloud apa pun

  1. Di SAP GUI, jalankan kode transaksi /GOOG/SDK_IMG.

    Atau, jalankan kode transaksi SPRO, lalu klik IMG Referensi SAP.

  2. Klik ABAP SDK for Google Cloud > Basic Settings > Vertex AI SDK: Configure Vector Search Parameters.

  3. Klik New Entries.

  4. Masukkan nilai untuk kolom berikut:

    Kolom Jenis data Deskripsi
    Tombol Penelusuran String Nama unik yang Anda tentukan untuk mengidentifikasi konfigurasi penelusuran.
    Nama Kunci Google Cloud String Kunci klien yang telah Anda konfigurasikan untuk autentikasi ke Google Cloud selama penyiapan autentikasi.
    ID Lokasi Region Google Cloud String

    ID lokasi Google Cloud region tempat fitur Vertex AI yang ingin Anda gunakan tersedia.

    Biasanya, Anda menggunakan region yang paling dekat dengan lokasi fisik Anda atau lokasi fisik pengguna yang dituju. Untuk mengetahui informasi selengkapnya, lihat Lokasi Vertex AI.
    ID Deployment Indeks Vektor String ID deployment indeks. Saat men-deploy indeks ke endpoint, Anda menetapkan ID deployment unik.

    Untuk mengetahui informasi tentang deployment indeks, lihat Men-deploy indeks vektor ke endpoint indeks.
    ID Endpoint Indeks Vektor String

    ID endpoint indeks tempat indeks di-deploy.

    Untuk mengetahui informasi tentang endpoint indeks, lihat Membuat endpoint indeks vektor.

  5. Simpan entri baru.

Edisi SAP BTP

  1. Akses peluncur SAP Fiori.

  2. Buka ruang yang berisi aplikasi Fiori untuk konfigurasi SDK.

  3. Buka aplikasi Vertex AI SDK: Konfigurasi Penelusuran Vektor.

  4. Klik Buat.

  5. Pada dialog Create yang muncul, masukkan nilai untuk kolom Model Key, lalu klik Continue.

  6. Masukkan nilai untuk kolom yang muncul.

    Tabel berikut menjelaskan kolom dan kesesuaiannya dengan parameter Penelusuran Vektor:

    Kolom Jenis data Deskripsi
    Tombol Penelusuran String Nama unik yang Anda tentukan untuk mengidentifikasi konfigurasi penelusuran.
    Nama Kunci Google Cloud String Kunci klien yang telah Anda konfigurasikan untuk autentikasi ke Google Cloud selama penyiapan autentikasi.
    ID Lokasi Region Google Cloud String

    ID lokasi Google Cloud region tempat fitur Vertex AI yang ingin Anda gunakan tersedia.

    Biasanya, Anda menggunakan region yang paling dekat dengan lokasi fisik Anda atau lokasi fisik pengguna yang dituju. Untuk mengetahui informasi selengkapnya, lihat Lokasi Vertex AI.
    ID Deployment Indeks Vektor String ID deployment indeks. Saat men-deploy indeks ke endpoint, Anda menetapkan ID deployment unik.

    Untuk mengetahui informasi tentang deployment indeks, lihat Men-deploy indeks vektor ke endpoint indeks.
    ID Endpoint Indeks Vektor String

    ID endpoint indeks tempat indeks di-deploy.

    Untuk mengetahui informasi tentang endpoint indeks, lihat Membuat endpoint indeks vektor.

  7. Klik Buat untuk menyimpan entri.

Langkah selanjutnya