生成式 AI 新手指南

本初學者指南將介紹生成式 AI 的核心技術，並說明如何將這些技術結合，為聊天機器人和應用程式提供動力。生成式 AI (也稱為 genAI 或 gen AI) 是機器學習 (ML) 領域的一環，專門開發及使用 ML 模型來產生新內容。

生成式 AI 模型通常稱為大型語言模型 (LLM)，因為它們體積龐大，且能理解及產生自然語言。不過，這些模型可根據訓練資料，理解及產生文字、圖片、影片和音訊等多種形式的內容。可處理多種資料類型的模型稱為多模態模型。

Google 提供 Gemini 系列生成式 AI 模型，專為多模態用途而設計，可處理圖片、影片和文字等多種形式的資訊。

生成內容

為了讓生成式 AI 模型產生在實際應用中實用的內容，這些模型必須具備下列功能：

  • 瞭解如何執行新工作：

    生成式 AI 模型專門用於執行一般工作，如果您希望模型執行專屬於您用途的工作，就必須能夠自訂模型。在 Vertex AI 中，您可以透過模型調整自訂模型。

  • 存取外部資訊：

    生成式 AI 模型的訓練資料，取自大量的資料。不過，這些模型必須能夠存取訓練資料以外的資訊，才能發揮實用性。舉例來說，如果您想建立由生成式 AI 模型提供支援的客戶服務聊天機器人，該模型就必須能存取您提供的產品和服務相關資訊。在 Vertex AI 中，您可以使用建立基準和函式呼叫功能，協助模型存取外部資訊。

  • 封鎖有害內容：

    生成式 AI 模型可能會產生您意料之外的輸出內容，包括令人反感或不顧及感受的文字。為了維持安全並防止濫用，模型需要安全篩選器來封鎖判定為可能有害的提示和回覆。Vertex AI 內建安全功能，可促進生成式 AI 服務的負責任使用。

下圖顯示這些不同功能如何協同運作，產生您想要的內容：

生成式 AI 工作流程圖

提示

提示

生成式 AI 工作流程通常會從提示開始。提示是傳送給生成式 AI 模型的自然語言要求，用來引導模型提供回覆。視模型而定，提示可以包含文字、圖片、影片、音訊、文件和其他類型，甚至是多種類型 (多模態)。

建立提示以便從模型取得所需回應的做法稱為提示設計。雖然提示設計是一種嘗試錯誤的過程，但您可以運用提示設計原則和策略，引導模型做出理想的行為。 Vertex AI Studio 提供提示管理工具，可協助您管理提示。

基礎模型

基礎模型

提示會傳送至生成式 AI 模型，以產生回覆。Vertex AI 提供多種生成式 AI 基礎模型，可透過受管理的 API 存取，包括：

  • Gemini API：進階推理、多輪即時通訊、程式碼產生，以及多模態提示。
  • Imagen API：圖像生成、圖像編輯和圖像說明生成。
  • MedLM：回答醫療問題和產生摘要。(已淘汰)

這些模型在大小、模式和成本方面有所不同。您可以在 Model Garden 中探索 Google 模型、開放式模型和 Google 合作夥伴的模型。

自訂模型

自訂模型

您可以自訂 Google 基礎模型的預設行為，確保模型能持續生成符合預期的結果，而不必輸入複雜的提示。這個自訂程序稱為「模型微調」。調整模型有助於簡化提示，減少要求的成本和延遲時間。

Vertex AI 也提供模型評估工具，協助您評估經過調整的模型效能。經過調整的模型可供正式使用後，您可以將模型部署至端點，並監控成效，就像使用標準 MLOps 工作流程一樣。

存取外部資訊

增強模型

Vertex AI 提供多種方法，讓模型存取外部 API 和即時資訊。

  • 建立基準：將模型回覆連結至可靠的來源，例如您自己的資料或網路搜尋，有助於減少幻覺。
  • RAG：將模型連結至外部知識來源 (例如文件和資料庫)，以便產生更準確實用的回覆。
  • 函式呼叫： 讓模型與外部 API 互動，取得即時資訊並執行實際工作。

引用檢查

引用檢查

產生回應後，Vertex AI 會檢查回應是否需要加入引文。如果回應中的大部分文字出自特定來源，系統會將該來源新增至回應中的引文中繼資料。

負責任的 AI 技術與安全性

負責任的 AI 技術與安全性

在提示和回應傳回之前，最後一層檢查會執行安全篩選器。Vertex AI 會檢查提示和回應，瞭解提示或回應屬於哪個安全類別。如果一或多個類別超出門檻，回應就會遭到封鎖，Vertex AI 會傳回備用回應。

回應

回應

如果提示和回應通過安全篩選器檢查，系統就會傳回回應。通常，系統會一次傳回所有回應。不過，您也可以透過啟用串流功能，在 Vertex AI 產生回覆時逐步接收。

開始使用

請試試下列快速入門，開始在 Vertex AI 上使用生成式 AI。