如要使用 OpenAI Python 程式庫,請安裝 OpenAI SDK:
pip install openai
如要使用 Chat Completions API 進行驗證,您可以修改用戶端設定,或變更環境設定,以使用 Google 驗證和 Vertex AI 端點。選擇較簡單的方法,然後根據您要呼叫 Gemini 模型還是自行部署的 Model Garden 模型,按照步驟進行設定。
Model Garden 中的特定模型和支援的 Hugging Face 模型必須先部署至 Vertex AI 端點,才能處理要求。透過 Chat Completions API 呼叫這些自行部署的模型時,您需要指定端點 ID。如要列出現有的 Vertex AI 端點,請使用 gcloud ai endpoints list
指令。
用戶端設定
如要在 Python 中以程式輔助方式取得 Google 憑證,可以使用 google-auth
Python SDK:
pip install google-auth requests
Python
在試用這個範例之前,請先按照Python使用用戶端程式庫的 Vertex AI 快速入門中的操作說明進行設定。 詳情請參閱 Vertex AI Python API 參考說明文件。
如要向 Vertex AI 進行驗證,請設定應用程式預設憑證。 詳情請參閱「為本機開發環境設定驗證」。
服務帳戶存取權杖的預設有效時間為 1 小時。您可以延長服務帳戶存取權杖的生命週期,或定期更新權杖並更新 openai.api_key
變數。
環境變數
安裝 Google Cloud CLI。OpenAI 程式庫可以讀取 OPENAI_API_KEY
和 OPENAI_BASE_URL
環境變數,變更預設用戶端的驗證和端點。設定下列變數:
$ export PROJECT_ID=PROJECT_ID
$ export LOCATION=LOCATION
$ export OPENAI_API_KEY="$(gcloud auth application-default print-access-token)"
如要呼叫 Gemini 模型,請設定 MODEL_ID
變數並使用 openapi
端點:
$ export MODEL_ID=MODEL_ID
$ export OPENAI_BASE_URL="https://${LOCATION}-aiplatform.googleapis.com/v1beta1/projects/${PROJECT_ID}/locations/${LOCATION}/endpoints/openapi"
如要從 Model Garden 呼叫自行部署的模型,請設定 ENDPOINT
變數,並在網址中使用該變數:
$ export ENDPOINT=ENDPOINT_ID
$ export OPENAI_BASE_URL="https://${LOCATION}-aiplatform.googleapis.com/v1beta1/projects/${PROJECT_ID}/locations/${LOCATION}/endpoints/${ENDPOINT}"
接著,初始化用戶端:
client = openai.OpenAI()
Gemini Chat Completions API 會使用 OAuth 搭配短期存取權杖進行驗證。服務帳戶存取權杖的預設有效時間為 1 小時。您可以延長服務帳戶存取權杖的生命週期,或定期更新權杖並更新 openai.api_key
變數。
重新整理憑證
以下範例說明如何視需要自動重新整理憑證:
Python
後續步驟
- 請參閱呼叫 Chat Completions API 的範例,瞭解如何使用與 OpenAI 相容的語法。
- 請參閱使用 OpenAI 相容語法呼叫 Inference API 的範例。
- 請參閱呼叫 Function Calling API 的範例,瞭解如何使用與 OpenAI 相容的語法。
- 進一步瞭解 Gemini API。
- 進一步瞭解如何從 Azure OpenAI 遷移至 Gemini API。