排解代理程式部署問題

本文說明如何解決部署代理程式時可能遇到的錯誤。

預先建構的範本錯誤

如果在部署期間遇到 LangchainAgent 範本問題,可能是因為本節中的其中一個問題。

內部伺服器錯誤

問題

您會收到類似以下的錯誤訊息:

InternalServerError: 500 Revision XXX is not ready and cannot serve traffic.

很抱歉,這是容器在執行階段發生任何問題時都會出現的錯誤,可能原因包括許多錯誤。

可能原因

  • LangchainAgent的髒狀態。如果在部署代理程式之前,對 LangchainAgent 呼叫 .set_up(),就可能發生這種情況。
  • 套件版本不一致。如果開發環境中安裝的套件,與 Vertex AI Agent Engine 遠端環境中安裝的套件不同,就可能發生這種情況。

建議解決方法

  • LangchainAgent的髒狀態。在部署代理程式之前,請先建立 LangchainAgent 的全新執行個體,或從程式碼中移除 agent.set_up()
  • 套裝規格不一致。請參閱「排解序列化錯誤」一節。

序列化錯誤

一般而言,部署代理程式時,請務必確保「本機」和「遠端」環境同步。如要確保這一點,請在部署代理程式時指定 requirements=

如果遇到序列化問題 (與「pickle」或「pickling」相關的錯誤等同於「序列化」錯誤),可能是因為本節所述的其中一個問題。

Pydantic 版本

問題

您會收到類似以下的錯誤訊息:

PicklingError: Can't pickle <cyfunction str_validator at 0x7ca030133d30>: it's
not the same object as pydantic.validators.str_validator

可能原因

如果您的 pydantic 套件早於 2.6.4 版本,就可能發生這種情況。如要查看您使用的版本,請在終端機中執行下列指令:

pip show pydantic

建議解決方案

在終端機中執行下列指令,更新套件:

pip install pydantic --upgrade

在終端機中執行下列指令,確認您使用的是 2.6.4 以上版本:

pip show pydantic

如果您位於筆記本執行個體 (例如 Jupyter、Colab 或 Workbench),可能需要重新啟動執行階段,才能使用更新的套件。

Cloudpickle 版本

問題

您會收到類似以下的錯誤訊息:

AttributeError: Can't get attribute '_class_setstate' on <module 'cloudpickle.cloudpickle'
from '/usr/local/lib/python3.10/site-packages/cloudpickle/cloudpickle.py'>

可能原因

如果開發環境和部署環境中的 cloudpickle 套件版本不同,就可能發生這種情況。如要檢查開發環境中使用的版本,請在終端機中執行下列指令:

pip show cloudpickle

建議解決方案

在兩個環境中部署相同版本的 cloudpickle,例如本機開發環境和遠端部署的代理程式,方法是在部署代理程式時指定 requirements=

內部伺服器錯誤

問題

您會收到類似以下的錯誤訊息:

InternalServerError: 500 Revision XXX is not ready and cannot serve traffic.

可能原因

如果sys_version=部署代理程式時的開發環境不同,就可能發生這種情況。

建議解決方案

部署代理程式後,請考慮從輸入引數中移除 sys_version=。如果仍遇到問題,請提出錯誤報告

Cloud Storage bucket 錯誤

如果您在部署時遇到 Cloud Storage 暫存值區的問題,可能是因為下列其中一個原因:

權限錯誤

建議解決方案

如要使用現有值區,請確認已通過驗證,可使用 Vertex AI 的主體 (您本人或服務帳戶) 具有該值區的 Storage Admin 存取權,並將權限授予服務帳戶

或者,您可以在部署代理程式時指定新值區,SDK 會建立具備必要權限的值區。

如果仍遇到問題,請提出錯誤報告

未建立 Cloud Storage 值區子目錄

問題

您會收到類似以下的錯誤訊息:

NotFound: 404 Can not copy from \"gs://[LOCATION]-*/agent_engine/agent_engine.pkl\" to \"gs://*/code.pkl\", check if the source object and target bucket exist.

(如果系統嘗試複製到不存在的資料夾,就會發生 404 錯誤)。

可能原因

這可能是因為 google-cloud-aiplatform 版本 (低於 1.49.0) 的字串插補功能有問題。這個問題已在後續版本中修正。如要查看使用的 google-cloud-aiplatform 版本,請在終端機中執行下列指令:

pip show google-cloud-aiplatform

建議解決方案

在終端機中執行下列指令,更新套件:

pip install google-cloud-aiplatform --upgrade

在終端機中執行下列指令,確認您使用的是 1.49.0 以上版本的 google-cloud-aiplatform

pip show google-cloud-aiplatform

如果您使用筆記本執行個體 (例如 Jupyter、Colab 或 Workbench),可能需要重新啟動執行階段,才能使用更新後的套件。

VPC-SC 違規錯誤

如果 VPC-SC 發生問題,可能的原因如下:

權限錯誤

問題

您會收到類似以下的錯誤訊息:

Reasoning Engine instance REASONING_ENGINE_ID failed to start and cannot serve traffic.

或:

Request is prohibited by organization's policy.

可能原因

這可能是因為 VPC-SC 範圍缺少必要的連入規則所致。

建議解決方案

如果您在 VPC-SC 環境中使用 Vertex AI Agent Engine,請務必在範圍中建立輸入規則,允許從 Reasoning Engine 服務代理程式 (service-PROJECT_NUMBER@gcp-sa-aiplatform-re.iam.gserviceaccount.com) 輸入至 storage.googleapis.com 服務和 artifactregistry.googleapis.com 服務。

支援資源

如果問題仍未解決,請參閱支援指南尋求協助。