使用 AlloyDB AI 建構生成式 AI 應用程式

選取說明文件版本：

AlloyDB AI 是 AlloyDB for PostgreSQL 和 AlloyDB Omni 隨附的一系列功能，可讓您將機器學習 (ML) 模型的語意和預測功能套用至資料。本頁面提供 AlloyDB 提供的 AI 輔助 ML 功能總覽。

儲存、建立索引及查詢向量

pgvectorPostgreSQL 擴充功能經過自訂，可搭配 AlloyDB 使用，並稱為 vector。支援將生成的嵌入內容儲存在向量資料欄中。此外，擴充功能也支援純量量化功能，可建立 IVF 索引。您也可以建立股票pgvector提供的 IVFFlat 指數或 HSNW 指數。

如要進一步瞭解如何儲存向量，請參閱「儲存向量」。

除了自訂 vector 擴充功能，AlloyDB 還包含 alloydb_scann 擴充功能，可實作由 ScaNN 演算法驅動的高效率最鄰近索引。

如要進一步瞭解如何建立索引及查詢向量，請參閱建立索引及查詢向量。

調整向量查詢效能

您可以調整索引，在每秒查詢次數 (QPS) 和查詢的召回率之間取得平衡。如要進一步瞭解如何調整索引，請參閱「調整向量查詢效能」。

生成嵌入項目和文字預測

AlloyDB AI 擴充了 PostgreSQL 語法，提供兩個函式，可使用 google_ml_integration 擴充功能查詢模型：

叫用預測：在交易中，使用 SQL 呼叫模型。
生成嵌入項目，讓 LLM 將文字提示轉換為數值向量。

您可以使用 embedding() 函式查詢 Vertex AI 模型，而 google_ml.embedding() 函式則可用於查詢已註冊的 Vertex AI、代管和第三方模型。

然後將這些向量嵌入做為 pgvector 函式的輸入內容。包括根據相對語意距離比較及排序文字樣本的方法。

使用 Vertex AI 在雲端使用模型

您可以設定 AlloyDB Omni 與 Vertex AI 搭配運作。

這可為應用程式帶來下列優點：

應用程式可使用有權存取的 Vertex AI Model Garden 中儲存的任何模型，叫用預測功能。
您的應用程式可以使用英文模型text-embedding LLM 生成嵌入。