零樣本最佳化工具

零樣本最佳化工具可自動修正及改善使用者撰寫的提示。如果提示的語言含糊不清、缺少背景脈絡或包含不相關的資訊，模型通常無法產生您想要的回覆。這項最佳化工具會分析並改寫現有提示，使其更清楚、更有效，且更符合模型功能，最終產生更高品質的回覆。

零樣本最佳化工具特別適合用於：

  • 配合模型更新：升級至新版模型後，現有提示可能無法發揮最佳效果。

  • 提升提示理解能力：如果提示措辭複雜或可能遭到誤解，這項工具可以重新措辭，盡量清楚準確，減少產生不當結果的機率。

最佳化工具的使用方式有兩種：

  • 生成指令：不必從頭編寫複雜的系統指令，只要用簡單的語言說明目標或工作，最佳化工具隨即會產生一組完整且結構良好的系統指令，協助您達成目標。

  • 修正提示：您已建立可用的提示，但模型輸出的內容不一致、稍微偏離主題，或缺乏您想要的詳細資訊。最佳化工具可協助改善提示，生成更優質的內容。

最佳化工具支援 Gemini 支援的所有語言，並可透過 Vertex AI SDK 使用。

事前準備

為確保 Compute Engine 預設服務帳戶具備最佳化提示所需的權限，請要求管理員授予Compute Engine 預設服務帳戶專案的下列 IAM 角色：

如要進一步瞭解如何授予角色，請參閱「管理專案、資料夾和機構的存取權」。

管理員或許也能透過自訂角色或其他預先定義的角色，將必要權限授予 Compute Engine 預設服務帳戶。

將提示最佳化

# Import libraries
import vertexai
import logging

# Google Colab authentication
from google.colab import auth
PROJECT_NAME = "PROJECT"
auth.authenticate_user(project_id=PROJECT_NAME)

# Initialize the Vertex AI client
client = vertexai.Client(project=PROJECT_NAME, location='us-central1')

# Input original prompt to optimize
prompt = """You are a professional chef. Your goal is teaching how to cook healthy cooking recipes to your apprentice.

Given a question from your apprentice and some context, provide the correct answer to the question.
Use the context to return a single and correct answer with some explanation.
"""

# Optimize prompt
output = client.prompt_optimizer.optimize_prompt(prompt=prompt)

# View optimized prompt
print(output.model_dump_json(indent=2))

這個 output 物件的類型為 OptimizeResponse，可提供最佳化程序相關資訊。最重要的部分是 suggested_prompt，其中包含最佳化提示，可協助您從模型獲得更優質的結果。其他欄位 (尤其是 applicable_guidelines) 有助於瞭解系統改善提示的原因和方式，方便您日後撰寫更優質的提示。以下是輸出內容的範例：

{
  "optimization_mode": "zero_shot",
  "applicable_guidelines": [
    {
      "applicable_guideline": "Structure",
      "suggested_improvement": "Add role definition.",
      "text_before_change": "...",
      "text_after_change": "Role: You are an AI assistant...\n\nTask Context:\n..."
    },
    {
      "applicable_guideline": "RedundancyInstructions",
      "suggested_improvement": "Remove redundant explanation.",
      "text_before_change": "...",
      "text_after_change": ""
    }
  ],
  "original_prompt": "...",
  "suggested_prompt": "Role: You are an AI assistant...\n\nTask Context:\n..."
}