Referensi REST dan RPC untuk layanan AI generatif

Anda dapat menemukan halaman referensi REST API dan RPC untuk layanan AI generatif dalam dokumentasi referensi Vertex AI.

Referensi REST

Vertex AI memiliki resource REST khusus AI generatif, serta resource REST yang digunakan dalam kasus penggunaan AI generatif dan AI prediktif.

Resource REST AI generatif

Tabel berikut mencantumkan resource REST khusus AI generatif di Vertex AI.

Referensi AI generatif
Deskripsi
projects.locations.publishers.models.generateContent Membuat konten untuk Gemini.
projects.locations.publishers.models.streamGenerateContent Streaming konten yang dibuat untuk Gemini.
projects.locations.publishers.models.serverStreamingPredict Streaming konten yang dibuat untuk PaLM 2 dan Codey.
projects.locations.publishers.models.predict Membuat konten untuk model non-Gemini.
projects.locations.publishers.models.countTokens (v1beta1) Mendapatkan jumlah token dan karakter yang dapat ditagih untuk sebuah perintah.
projects.locations.tuningJobs Menyesuaikan model Gemini.
projects.locations.reasoningEngines (v1beta1) Men-deploy aplikasi LangChain ke Vertex AI.

Resource REST bersama

Tabel berikut berisi daftar resource REST bersama di Vertex AI.

Resource REST bersama
Deskripsi
projects.locations.pipelineJobs Digunakan untuk men-tuning model non-Gemini dan untuk evaluasi model.
projects.locations.batchPredictionJobs Digunakan untuk mengirim permintaan prompt batch ke model yang didukung.
projects.locations.endpoints Digunakan untuk men-deploy model Model Garden.

Referensi RPC

Tabel berikut mencantumkan RPC untuk AI generatif.

Paket RPC
Deskripsi
cloud.ai.large_models.vision Model penglihatan besar.
cloud.ai.nl.llm.proto.service Model bahasa besar.
learning.genai.root Grounding dan kutipan.