快速入門:將 Vertex AI Studio 提示部署為網路應用程式

在 Vertex AI Studio 中,您可以設計及疊代提示,並比較不同設定和模型的結果。完成提示工程後,您可以將提示部署為網路應用程式,與協作者或目標使用者分享,讓他們測試網路應用程式。網頁應用程式託管於 Cloud Run,可在 Google Cloud 控制台以外使用。

在本快速入門導覽課程中,您將:

  • 建立含有提示變數的提示
  • 將提示詞部署為網頁應用程式
  • 監控部署進度並測試已部署的應用程式
  • 更新並重新部署提示
  • 測試提交支援多模態的提示

事前準備

如果您從未使用過 Vertex AI Studio,可以參閱這份快速入門指南,或參加 Google Cloud Skills Boost 課程,瞭解 Vertex AI Studio 的基本概念。這份指南應包含下列內容:

  1. 已啟用計費功能的 Google Cloud 專案
  2. 已啟用 Vertex AI API

需要額外權限

除了使用 Vertex AI Studio 的現有權限外,如要部署提示,您還需要下列權限:

動作 所需權限 目的
啟用更多 API serviceusage.services.enable 啟用下列 API:
  • Cloud Run Admin API (run.googleapis.com)
  • Identity-Aware Proxy API (iap.googleapis.com)
  • Artifact Registry API (artifactregistry.googleapis.com)
  • Cloud Build API (cloudbuild.googleapis.com)
  • Cloud Logging API (logging.googleapis.com)
將權限授予服務帳戶 resourcemanager.projects.setIamPolicy 將下列角色授予 Compute Engine 預設服務帳戶
部署特定權限
  • storage.buckets.create
  • run.services.create
  • artifactregistry.repositories.create
  • run.services.setIamPolicy
部署期間,系統會將一組原始碼上傳至 Cloud Storage,然後部署至 Cloud Run,並建立新服務。您必須擁有 artifactregistry.repositories.create ,才能建立容器映像檔的存放區。run.services.setIamPolicy是讓服務可公開存取的必要條件。

如果您是專案擁有者,則不需採取其他行動,只要按照 Vertex AI Studio 中的指南操作即可。如果您不是專案擁有者,請要求專案管理員執行前兩項動作,然後授予您「編輯者」 (roles/editor) 和「Cloud Run 管理員」(roles/run.admin) 角色。

建立含有提示變數的提示

前往 Vertex AI Studio 的建立提示頁面,然後點選提示輸入框中的「新增變數」

在「管理提示詞變數」對話方塊中,輸入變數名稱並賦予值。然後按一下「套用」

管理提示詞變數
對話方塊

在提示輸入框中,使用變數撰寫提示,然後調整其他參數。舉例來說,你可以啟用「透過 Google 搜尋進行基礎訓練」,並將「一律從網路上取得目前天氣資訊」設為系統指令。

將提示詞部署為網頁應用程式

如要將提示部署為網路應用程式,請按一下右上角的「使用程式碼建構」按鈕。然後按一下「Deploy as app」(部署為應用程式)

按一下「使用程式碼建構」按鈕,然後按一下「部署為應用程式」

儲存提示

系統會顯示儲存提示對話方塊,因為提示必須先儲存才能部署。儲存提示詞後,系統會自動開啟部署對話方塊。

請先儲存提示再部署

啟用首次部署的 API 並授予權限

  1. 儲存提示後,部署程序就會繼續。如果是首次部署,系統會顯示對話方塊,要求您啟用必要 API。按一下「啟用必要的 API」
  2. 啟用 API 後,系統會顯示「建立 Web 應用程式」對話方塊。您可以選擇「需要驗證 (透過 Identity-Aware Proxy)」或「允許公開存取」
    • 如果選擇需要驗證,請按照指南授予存取權 (包括您自己)。
    • 選擇允許公開存取後,任何人都能存取應用程式。因此,請勿在提示中加入敏感或個人識別資訊 (PII)。勾選「我瞭解這個應用程式將公開部署」核取方塊,表示您已瞭解。
  3. 按一下「建立應用程式」即可開始部署。
  4. 如果您是首次部署,系統會彈出另一個對話方塊,要求您將必要角色授予服務帳戶。按一下「授予所有權限」繼續操作。

如果是首次部署,系統會彈出另一個對話方塊,要求您將必要角色授予服務帳戶。按一下「授予所有權限」繼續操作。

開始部署

Vertex AI Studio 會建立包含網頁應用程式原始碼的 zip 檔案,並將該檔案上傳至 Cloud Storage bucket。部署作業開始後,系統會彈出「管理網頁應用程式」對話方塊,顯示部署作業的相關資訊,例如應用程式名稱、上次部署時間、部署狀態等。

「管理應用程式」對話方塊

監控部署狀態

部署作業需要 2 到 3 分鐘才能完成,部署狀態會顯示在「Manage web app」(管理網頁應用程式) 對話方塊的「Status」(狀態) 欄中。如果關閉「管理網頁應用程式」對話方塊,可以從「使用程式碼建構」按鈕下方的選單重新開啟。

部署完成後,「狀態」欄會變更為「就緒」,且應用程式名稱旁會顯示「開啟」按鈕。

應用程式名稱旁會顯示「開啟」按鈕

存取權控管和私密金鑰

您的網路應用程式部署時,預設會啟用「允許未經驗證」存取控制。如要關閉這項功能,請按一下 鉛筆圖示按鈕。詳情請參閱關閉公開存取權一節

為提供基本保護措施,網頁應用程式需要將密鑰附加至網址,才能提交提示。您可以在「Secret Key」(密鑰) 欄中找到密鑰。如果您從 Vertex AI Studio 開啟網頁應用程式,系統會將金鑰附加至網址。

開啟網頁應用程式並提交提示

在「管理網頁應用程式」對話方塊中,按一下「開啟」,即可存取已部署的應用程式。應用程式應開啟,且網址中附加的密鑰格式為 ?key=SECRET_KEY

從「管理應用程式」對話方塊開啟網頁應用程式。密鑰會附加至網址。

輸入變數值,然後按一下「提交」。右側應該會顯示結果。

透過網頁應用程式提交提示

透過「使用程式碼建構」按鈕選單開啟網頁應用程式

如果網頁應用程式已準備就緒,您也可以透過「使用程式碼建構」按鈕選單開啟。

透過「使用程式碼建構」按鈕選單開啟應用程式

Cloud Run 是無伺服器服務,因此如果應用程式容器未主動使用,就會關閉。因此,網頁應用程式有時可能需要幾秒鐘才能載入,如果網頁應用程式閒置時間過長,提交作業可能無法正常運作。重新整理頁面應該可以解決這個問題。

透過通知鈴鐺監控狀態

你也可以點選鈴鐺圖示,從「通知」選單監控狀態。如果部署作業順利完成,鈴鐺圖示會停止載入動畫,並顯示綠色圓圈。

透過通知鈴鐺監控狀態

點選通知後,系統會將你重新導向至 Cloud Run 頁面。Cloud Run 頁面中的網址未附加密鑰。您必須手動附加,格式為 ?key=SECRET_KEY

Cloud Run 頁面中的應用程式連結未附加金鑰

更新並重新部署提示

您可以在 Vertex AI Studio 中進一步編輯提示,並將提示轉換為對話。接著點選「使用程式碼建構」按鈕,然後點選「管理應用程式」,開啟「管理網頁應用程式」對話方塊。按一下「更新應用程式」,重新部署含有更新提示的網路應用程式。

接著會出現確認對話方塊。這項訊息會告知您,如果重新部署,您在 Vertex AI Studio 以外對已部署網頁應用程式所做的任何變更 (例如在 Cloud Run 原始碼編輯器中),都會遺失。按一下「確認」即可繼續。

「管理網頁應用程式」對話方塊會再次彈出。程序與初始部署類似。您可以監控進度,方法與第一次部署時相同

更新完成後,即可再次開啟網頁應用程式。您會看到含有提示變數的對話 UI。填入值並輸入任何非空白內容,即可繼續對話。

更新後的應用程式會提供即時通訊使用者介面

插入多模態內容

您可以在對話使用者介面中插入圖片、影片、音訊和文件等輸入內容。支援的輸入內容取決於提示所選用的模型。請參閱各模型的多模態支援說明文件

如要插入檔案,請按一下對話輸入框中的 迴紋針圖示按鈕。

插入多模態輸入內容

您可以透過提供的輸入內容與模型互動。

使用多模態輸入與模型互動

進階主題

熟悉部署程序後,您可以考慮採取下列行動。

在 Cloud Run 中編輯原始碼

如要自訂網頁應用程式,可以在 Cloud Run 中變更原始碼。從「管理網頁應用程式」對話方塊開啟 Cloud Run 原始碼頁面,方法是點選資料列尾端的「更多」圖示按鈕 從「管理網頁應用程式」對話方塊開啟開放原始碼編輯器

或者,您也可以點選「原始碼編輯器」連結,從網頁應用程式前往安全性頁面。

在 Cloud Run 原始碼頁面中,按一下「編輯來源」,即可開始編輯模式。完成後,按一下「儲存並重新部署」

重新部署完成後,您需要從 Vertex AI Studio 開啟應用程式。您可以透過「已從 Vertex AI 部署」徽章中的連結,前往 Vertex AI Studio 頁面。

授予存取權

如要授予使用者或群組應用程式存取權,請按照下列步驟操作:

  1. 開啟「管理網頁應用程式」對話方塊。
  2. 按一下「存取控制」欄中的 鉛筆圖示。系統會在新的分頁中開啟 Cloud Run 安全性頁面。
  3. 在 Cloud Run 安全性頁面中,找到 Identity-Aware Proxy (IAP) 的核取方塊。確認已勾選,然後按一下「編輯政策」
  4. 系統會顯示子工作,方便你編輯存取權。在「Principal」(主體) 欄位中輸入使用者或群組電子郵件地址。 如果您是機構使用者,只能新增同一機構的使用者。
    子工作:編輯 IAP
  5. 將存取層級欄位留空。
  6. 按一下「儲存」
  7. 關閉子工作後,再次按一下 Cloud Run 頁面中的「儲存」
    再次儲存 Cloud Run UI

關閉公開存取權

如果不需要公開存取網頁應用程式,可以在 Cloud Run 中關閉。開啟「管理網頁應用程式」對話方塊,然後按一下「存取權控管」欄中的「鉛筆」圖示 。系統會在新的分頁中開啟 Cloud Run 安全性頁面。

您也可以在網頁應用程式中點選「安全性設定」連結,前往安全性頁面。

在網頁應用程式對應的 Cloud Run 服務「安全性」頁面中,勾選「使用 Cloud IAM 驗證傳入要求」,然後選擇「需要驗證」。按一下「儲存」

這樣一來,使用者就無法再透過網址存取您的網頁應用程式。如果您嘗試存取,會看到「Error: Forbidden」頁面。

再次開啟公開存取權

如要恢復公開存取權,請取消勾選「使用 Cloud IAM 驗證傳入要求」核取方塊,然後儲存。如果您選擇「允許未經驗證的叫用」,但專案位於機構中,則這項設定不會生效。詳情請參閱 Cloud Run 的驗證機制

設定本機存取權以進行開發

公開測試版目前不支援存取權控管。因此,關閉公開存取權後,您只能設定本機 Proxy,才能存取網頁應用程式。您可以使用 gcloud 指令執行這項操作。首先,透過控制台右上角的 終端機圖示按鈕開啟 Cloud Shell。 Google Cloud 系統會要求您授權 Cloud Shell。按一下「授權」即可繼續。

完成後,開啟「管理網頁應用程式」對話方塊,然後點選資料列尾端的「更多」圖示按鈕,即可查看更多動作。按一下「透過 Cloud Shell 設定本機存取權」從「管理網頁應用程式」對話方塊取得本機存取指令

系統會在 Cloud Shell 中新增指令。按下 Enter 鍵,然後等待列印完成。按一下開頭為 Click on the link to preview 的行中的連結。您將可查看申請。只有在執行 gcloud 指令時,這個連結才會有效。Cloud Shell 中的本機存取連結

常見問題

驗證錯誤:沒有秘密金鑰

如果看到下列錯誤訊息,表示網址未附加密鑰。按照相關操作說明,從 Vertex AI Studio 開啟網頁應用程式,或從「管理應用程式」對話方塊複製密鑰,並以 ?key=SECRET_KEY 格式附加至網址。

沒有密鑰時的錯誤

驗證錯誤:秘密金鑰無效

如果看到下列錯誤,表示附加至網址的索引鍵無效。 每個提示都有專屬的密鑰。如果使用其他提示的私密金鑰,將無法順利驗證。請按照操作說明正確開啟網頁應用程式

金鑰無效時的錯誤

400 引數無效:輸入內容為空白

如果您在提示變數中輸入內容,但對話空白,就會發生下列錯誤,並顯示 400 錯誤訊息。如要修正這個問題,請輸入任何非空白的內容,然後重新提交。

內容空白時發生錯誤

400 引數無效:不支援 mimeType

如果選擇模型不支援的檔案類型,系統會傳回 400 錯誤。這是正常現象,您必須使用模型支援的其他檔案類型。請參閱 各模型的多模態支援說明文件

不支援的 MIME 類型錯誤

後續步驟