Mulai 29 April 2025, model Gemini 1.5 Pro dan Gemini 1.5 Flash tidak tersedia di project yang belum pernah menggunakan model ini, termasuk project baru. Untuk mengetahui detailnya, lihat Versi dan siklus proses model.

Halaman ini diterjemahkan oleh Cloud Translation API.

Contoh

Panduan ini memberikan contoh cara menggunakan Chat Completions API yang kompatibel dengan OpenAI dengan model Gemini, yang mencakup topik berikut:

Memanggil Gemini dengan Chat Completions API: Menunjukkan cara mengirim permintaan streaming dan non-streaming ke model Gemini terkelola.
Memanggil model yang di-deploy sendiri dengan Chat Completions API: Memberikan contoh untuk mengirim permintaan ke model yang di-deploy sendiri.
Contoh extra_body: Menjelaskan cara meneruskan parameter tambahan khusus Google dalam permintaan Anda.
Contoh extra_content: Menunjukkan cara menambahkan konten tambahan ke pesan atau panggilan alat.
Contoh permintaan curl: Menawarkan contoh curl langsung untuk kasus penggunaan lanjutan seperti input multimodal.
Output terstruktur: Menunjukkan cara meminta output JSON terstruktur dari model.

Anda dapat memanggil Chat Completions API dengan dua cara:

Metode	Deskripsi	Kasus Penggunaan
Memanggil model Gemini terkelola	Kirim permintaan ke endpoint yang dikelola Google untuk model Gemini tertentu.	Paling cocok untuk kasus penggunaan umum, penyiapan cepat, dan mengakses model Google terbaru tanpa mengelola infrastruktur.
Memanggil model yang di-deploy sendiri	Kirim permintaan ke endpoint yang Anda buat dengan men-deploy model di Vertex AI.	Ideal jika Anda memerlukan endpoint khusus untuk model yang telah disesuaikan atau memerlukan konfigurasi tertentu yang tidak tersedia di endpoint default.

Memanggil Gemini dengan Chat Completions API

Anda dapat mengirim permintaan sebagai non-streaming atau streaming.

Jenis Permintaan	Deskripsi	Kelebihan	Kekurangan
Non-streaming	Respons lengkap dibuat, lalu dikirim kembali dalam satu bagian.	Lebih mudah diterapkan; respons lengkap tersedia sekaligus.	Latensi yang dirasakan lebih tinggi karena pengguna menunggu seluruh respons dihasilkan.
Streaming	Respons dikirim kembali dalam potongan kecil saat dihasilkan. Untuk mengaktifkan streaming, tetapkan `"stream": true` di isi permintaan.	Latensi yang dirasakan lebih rendah; memberikan pengalaman yang lebih interaktif karena respons muncul secara bertahap.	Memerlukan logika sisi klien yang lebih kompleks untuk menangani aliran data yang masuk.

Mengirim permintaan non-streaming

Contoh berikut menunjukkan cara mengirim permintaan non-streaming.

REST

  curl -X POST \
    -H "Authorization: Bearer $(gcloud auth print-access-token)" \
    -H "Content-Type: application/json" \
  https://${LOCATION}-aiplatform.googleapis.com/v1beta1/projects/${PROJECT_ID}/locations/${LOCATION}/endpoints/openapi/chat/completions \
  -d '{
    "model": "google/${MODEL_ID}",
    "messages": [{
      "role": "user",
      "content": "Write a story about a magic backpack."
    }]
  }'

Python

Sebelum mencoba contoh ini, ikuti petunjuk penyiapan Python di Panduan memulai Vertex AI menggunakan library klien. Untuk mengetahui informasi selengkapnya, lihat Dokumentasi referensi API Python Vertex AI.

Untuk melakukan autentikasi ke Vertex AI, siapkan Kredensial Default Aplikasi. Untuk mengetahui informasi selengkapnya, lihat Menyiapkan autentikasi untuk lingkungan pengembangan lokal.

from google.auth import default
import google.auth.transport.requests

import openai

# TODO(developer): Update and un-comment below lines
# project_id = "PROJECT_ID"
# location = "us-central1"

# Programmatically get an access token
credentials, _ = default(scopes=["https://www.googleapis.com/auth/cloud-platform"])
credentials.refresh(google.auth.transport.requests.Request())

# OpenAI Client
client = openai.OpenAI(
    base_url=f"https://{location}-aiplatform.googleapis.com/v1/projects/{project_id}/locations/{location}/endpoints/openapi",
    api_key=credentials.token,
)

response = client.chat.completions.create(
    model="google/gemini-2.0-flash-001",
    messages=[{"role": "user", "content": "Why is the sky blue?"}],
)

print(response)

Mengirim permintaan streaming

Contoh berikut menunjukkan cara mengirim permintaan streaming dengan menyetel "stream": true.

REST

  curl -X POST \
    -H "Authorization: Bearer $(gcloud auth print-access-token)" \
    -H "Content-Type: application/json" \
  https://${LOCATION}-aiplatform.googleapis.com/v1beta1/projects/${PROJECT_ID}/locations/${LOCATION}/endpoints/openapi/chat/completions \
  -d '{
    "model": "google/${MODEL_ID}",
    "stream": true,
    "messages": [{
      "role": "user",
      "content": "Write a story about a magic backpack."
    }]
  }'

Python

Untuk melakukan autentikasi ke Vertex AI, siapkan Kredensial Default Aplikasi. Untuk mengetahui informasi selengkapnya, lihat Menyiapkan autentikasi untuk lingkungan pengembangan lokal.

from google.auth import default
import google.auth.transport.requests

import openai

# TODO(developer): Update and un-comment below lines
# project_id = "PROJECT_ID"
# location = "us-central1"

# Programmatically get an access token
credentials, _ = default(scopes=["https://www.googleapis.com/auth/cloud-platform"])
credentials.refresh(google.auth.transport.requests.Request())

# OpenAI Client
client = openai.OpenAI(
    base_url=f"https://{location}-aiplatform.googleapis.com/v1/projects/{project_id}/locations/{location}/endpoints/openapi",
    api_key=credentials.token,
)

response = client.chat.completions.create(
    model="google/gemini-2.0-flash-001",
    messages=[{"role": "user", "content": "Why is the sky blue?"}],
    stream=True,
)
for chunk in response:
    print(chunk)

Mengirim perintah dan gambar ke Gemini API di Vertex AI

Contoh berikut menunjukkan cara mengirim permintaan multimodal yang menyertakan teks dan gambar.

Python

Untuk melakukan autentikasi ke Vertex AI, siapkan Kredensial Default Aplikasi. Untuk mengetahui informasi selengkapnya, lihat Menyiapkan autentikasi untuk lingkungan pengembangan lokal.


from google.auth import default
import google.auth.transport.requests

import openai

# TODO(developer): Update and un-comment below lines
# project_id = "PROJECT_ID"
# location = "us-central1"

# Programmatically get an access token
credentials, _ = default(scopes=["https://www.googleapis.com/auth/cloud-platform"])
credentials.refresh(google.auth.transport.requests.Request())

# OpenAI Client
client = openai.OpenAI(
    base_url=f"https://{location}-aiplatform.googleapis.com/v1/projects/{project_id}/locations/{location}/endpoints/openapi",
    api_key=credentials.token,
)

response = client.chat.completions.create(
    model="google/gemini-2.0-flash-001",
    messages=[
        {
            "role": "user",
            "content": [
                {"type": "text", "text": "Describe the following image:"},
                {
                    "type": "image_url",
                    "image_url": "gs://cloud-samples-data/generative-ai/image/scones.jpg",
                },
            ],
        }
    ],
)

print(response)

Memanggil model yang di-deploy sendiri dengan Chat Completions API

Mengirim permintaan non-streaming

Contoh berikut menunjukkan cara mengirim permintaan non-streaming ke model yang di-deploy sendiri.

REST

  curl -X POST \
    -H "Authorization: Bearer $(gcloud auth print-access-token)" \
    -H "Content-Type: application/json" \
  https://aiplatform.googleapis.com/v1beta1/projects/${PROJECT_ID}/locations/global/endpoints/${ENDPOINT}/chat/completions \
  -d '{
    "messages": [{
      "role": "user",
      "content": "Write a story about a magic backpack."
    }]
  }'

Python

Untuk melakukan autentikasi ke Vertex AI, siapkan Kredensial Default Aplikasi. Untuk mengetahui informasi selengkapnya, lihat Menyiapkan autentikasi untuk lingkungan pengembangan lokal.

from google.auth import default
import google.auth.transport.requests

import openai

# TODO(developer): Update and un-comment below lines
# project_id = "PROJECT_ID"
# location = "us-central1"
# model_id = "gemma-2-9b-it"
# endpoint_id = "YOUR_ENDPOINT_ID"

# Programmatically get an access token
credentials, _ = default(scopes=["https://www.googleapis.com/auth/cloud-platform"])
credentials.refresh(google.auth.transport.requests.Request())

# OpenAI Client
client = openai.OpenAI(
    base_url=f"https://{location}-aiplatform.googleapis.com/v1/projects/{project_id}/locations/{location}/endpoints/{endpoint_id}",
    api_key=credentials.token,
)

response = client.chat.completions.create(
    model=model_id,
    messages=[{"role": "user", "content": "Why is the sky blue?"}],
)
print(response)

Mengirim permintaan streaming

Contoh berikut menunjukkan cara mengirim permintaan streaming ke model yang di-deploy sendiri.

REST

    curl -X POST \
      -H "Authorization: Bearer $(gcloud auth print-access-token)" \
      -H "Content-Type: application/json" \
    https://aiplatform.googleapis.com/v1beta1/projects/${PROJECT_ID}/locations/global/endpoints/${ENDPOINT}/chat/completions \
    -d '{
      "stream": true,
      "messages": [{
        "role": "user",
        "content": "Write a story about a magic backpack."
      }]
    }'

Python

Untuk melakukan autentikasi ke Vertex AI, siapkan Kredensial Default Aplikasi. Untuk mengetahui informasi selengkapnya, lihat Menyiapkan autentikasi untuk lingkungan pengembangan lokal.

from google.auth import default
import google.auth.transport.requests

import openai

# TODO(developer): Update and un-comment below lines
# project_id = "PROJECT_ID"
# location = "us-central1"
# model_id = "gemma-2-9b-it"
# endpoint_id = "YOUR_ENDPOINT_ID"

# Programmatically get an access token
credentials, _ = default(scopes=["https://www.googleapis.com/auth/cloud-platform"])
credentials.refresh(google.auth.transport.requests.Request())

# OpenAI Client
client = openai.OpenAI(
    base_url=f"https://{location}-aiplatform.googleapis.com/v1/projects/{project_id}/locations/{location}/endpoints/{endpoint_id}",
    api_key=credentials.token,
)

response = client.chat.completions.create(
    model=model_id,
    messages=[{"role": "user", "content": "Why is the sky blue?"}],
    stream=True,
)
for chunk in response:
    print(chunk)

`extra_body` contoh

Anda dapat menggunakan kolom extra_body untuk meneruskan parameter khusus Google dalam permintaan Anda.

REST API: Untuk meneruskan parameter menggunakan REST API, tambahkan parameter tersebut dalam objek google.

{
  ...,
  "extra_body": {
     "google": {
       ...,
       "thought_tag_marker": "..."
     }
   }
}

Python SDK: Untuk meneruskan parameter menggunakan Python SDK, berikan parameter tersebut dalam kamus ke argumen extra_body.

client.chat.completions.create(
  ...,
  extra_body = {
    'extra_body': { 'google': { ... } }
  },
)

`extra_content` contoh

Anda dapat menggunakan kolom extra_content dengan REST API untuk menambahkan informasi tambahan ke pesan atau panggilan alat.

Dengan kolom content string

{
  "messages": [
    { "role": "...", "content": "...", "extra_content": { "google": { ... } } }
  ]
}

Per pesan di kolom content multipart

{
  "messages": [
    {
      "role": "...",
      "content": [
        { "type": "...", ..., "extra_content": { "google": { ... } } }
      ]
    }
}

Per panggilan alat

{
  "messages": [
    {
      "role": "...",
      "tool_calls": [
        {
          ...,
          "extra_content": { "google": { ... } }
        }
      ]
    }
  ]
}

Contoh permintaan `curl`

Anda dapat menggunakan permintaan curl ini untuk berinteraksi langsung dengan API, tanpa menggunakan SDK.

Gunakan `thinking_config` dengan `extra_body`

curl -X POST \
  -H "Authorization: Bearer $(gcloud auth print-access-token)" \
  -H "Content-Type: application/json" \
  https://us-central1-aiplatform.googleapis.com/v1/projects/${PROJECT_ID}/locations/us-central1/endpoints/openapi/chat/completions \
  -d '{ \
    "model": "google/gemini-2.5-flash-preview-04-17", \
    "messages": [ \
      { "role": "user", \
      "content": [ \
        { "type": "text", \
          "text": "Are there any primes number of the form n*ceil(log(n))" \
        }] }], \
    "extra_body": { \
      "google": { \
          "thinking_config": { \
          "include_thoughts": true, "thinking_budget": 10000 \
        }, \
        "thought_tag_marker": "think" } }, \
    "stream": true }'

Permintaan multimodal

Chat Completions API mendukung berbagai input multimodal, termasuk audio dan video.

Meneruskan data gambar dengan `image_url`

curl -X POST \
  -H "Authorization: Bearer $(gcloud auth print-access-token)" \
  -H "Content-Type: application/json" \
  https://us-central1-aiplatform.googleapis.com/v1/projects/${PROJECT}/locations/us-central1/endpoints/openapi/chat/completions \
  -d '{ \
    "model": "google/gemini-2.0-flash-001", \
    "messages": [{ "role": "user", "content": [ \
      { "type": "text", "text": "Describe this image" }, \
      { "type": "image_url", "image_url": "gs://cloud-samples-data/generative-ai/image/scones.jpg" }] }] }'

Meneruskan data audio dengan `input_audio`

curl -X POST \
  -H "Authorization: Bearer $(gcloud auth print-access-token)" \
  -H "Content-Type: application/json" \
  https://us-central1-aiplatform.googleapis.com/v1/projects/${PROJECT}/locations/us-central1/endpoints/openapi/chat/completions \
  -d '{ \
    "model": "google/gemini-2.0-flash-001", \
    "messages": [ \
      { "role": "user", \
        "content": [ \
          { "type": "text", "text": "Describe this: " }, \
          { "type": "input_audio", "input_audio": { \
            "format": "audio/mp3", \
            "data": "gs://cloud-samples-data/generative-ai/audio/pixel.mp3" } }] }] }'

Output terstruktur

Anda dapat menggunakan parameter response_format untuk meminta output JSON terstruktur dari model.

Contoh dengan Python SDK

from pydantic import BaseModel
from openai import OpenAI

client = OpenAI()

class CalendarEvent(BaseModel):
    name: str
    date: str
    participants: list[str]

completion = client.beta.chat.completions.parse(
    model="google/gemini-2.5-flash-preview-04-17",
    messages=[
        {"role": "system", "content": "Extract the event information."},
        {"role": "user", "content": "Alice and Bob are going to a science fair on Friday."},
    ],
    response_format=CalendarEvent,
)

print(completion.choices[0].message.parsed)

Langkah berikutnya

Pelajari cara memanggil Inference API dengan sintaksis yang kompatibel dengan OpenAI.
Pelajari cara memanggil Function Calling API dengan sintaksis yang kompatibel dengan OpenAI.
Pelajari Gemini API lebih lanjut.
Pelajari lebih lanjut cara bermigrasi dari Azure OpenAI ke Gemini API.

Contoh Tetap teratur dengan koleksi Simpan dan kategorikan konten berdasarkan preferensi Anda.

Memanggil Gemini dengan Chat Completions API

Mengirim permintaan non-streaming

REST

Python

Mengirim permintaan streaming

REST

Python

Mengirim perintah dan gambar ke Gemini API di Vertex AI

Python

Memanggil model yang di-deploy sendiri dengan Chat Completions API

Mengirim permintaan non-streaming

REST

Python

Mengirim permintaan streaming

REST

Python

extra_body contoh

extra_content contoh

Contoh permintaan curl

Gunakan thinking_config dengan extra_body

Permintaan multimodal

Meneruskan data gambar dengan image_url

Meneruskan data audio dengan input_audio

Output terstruktur

Contoh dengan Python SDK

Langkah berikutnya

Contoh

`extra_body` contoh

`extra_content` contoh

Contoh permintaan `curl`

Gunakan `thinking_config` dengan `extra_body`

Meneruskan data gambar dengan `image_url`

Meneruskan data audio dengan `input_audio`