代理程式有許多設定會影響行為。 每部主機提供的設定不同。
Conversational Agents 控制台代理程式設定
如何存取代理程式設定:
主控台
- 開啟 Conversational Agents 控制台。
- 選擇 Google Cloud 專案。
- 選取代理程式。
- 按一下右上角的設定圖示。
- 視需要更新設定。
- 按一下 [儲存]。
API
請參閱 Agent
類型的 get
和 patch/update
方法。
為代理程式參照選取通訊協定和版本:
通訊協定 | V3 | V3beta1 |
---|---|---|
REST | 服務專員資源 | 服務專員資源 |
RPC | 服務專員介面 | 服務專員介面 |
C++ | AgentsClient | 不適用 |
C# | AgentsClient | 不適用 |
Go | AgentsClient | 不適用 |
Java | AgentsClient | AgentsClient |
Node.js | AgentsClient | AgentsClient |
PHP | 不適用 | 不適用 |
Python | AgentsClient | AgentsClient |
Ruby | 不適用 | 不適用 |
以下小節說明不同類別的代理程式設定。
一般設定
以下是可供代理商使用的通用設定:
-
代理程式的名稱,方便使用者辨識。
-
代理程式的預設時區。
-
這項設定會決定代理程式要以生成式應對手冊還是確定性流程啟動對話。
-
建立代理程式時選取的代理程式區域。
-
鎖定代理程式
指出代理是否已鎖定。 鎖定的代理程式無法編輯。
-
啟用 Cloud Logging
指出是否為代理程式啟用 Cloud Logging。
啟用對話記錄
指出是否要讓 Google 收集及儲存 已編輯 使用者查詢,以改善品質。
啟用以同意聲明為依據的使用者輸入內容遮蓋功能
啟用這項設定後,您可以使用特殊工作階段參數,控管是否要從對話記錄和 Cloud Logging 中,遮蓋使用者輸入內容和參數。工作階段參數預設為
true
。如果停用這項設定,系統就不會進行遮蓋。系統會使用布林值工作階段參數
$session.params.conversation-redaction
收集使用者同意聲明。如果啟用這項設定,且工作階段參數設為false
,系統就不會進行遮蓋(其他遮蓋策略仍會套用)。如果啟用這項設定,且工作階段參數設為true
,系統就會進行遮蓋。舉例來說,要求同意聲明的流程可以是:先詢問使用者是否要保留使用者輸入內容,然後將回覆與兩個意圖配對,一個是「是意圖」,另一個是「否意圖」。然後在執行要求的「yes intent」路徑參數預設中,將工作階段參數設為
false
(不遮蓋),在「no intent」路徑的參數預設中,將工作階段參數設為true
(遮蓋)。
-
啟用 BigQuery Export
指出是否已啟用 BigQuery 匯出功能。
BigQuery 資料集
BigQuery 資料集名稱。
BigQuery 資料表
BigQuery 資料表名稱。
-
您可以啟用意圖建議。
-
啟用這項設定後,你就能對服務專員的回覆品質提供意見回饋,包括表示喜歡/不喜歡。
-
使用這項設定新增 Git 整合。
生成式 AI 設定
可用的生成式 AI 設定如下:
一般
-
選取生成式功能使用的模型。 詳情請參閱模型版本。
權杖限制
-
您可以透過大型語言模型的溫度,控制回覆的創意程度。值越低,回覆越符合預期。 值越高,回覆就越有創意或越隨機。
-
這項設定會從 LLM 提示中刪除部分先前的對話,避免提示大小隨著代理程式處理的每個連續對話回合而增加。這項功能可協助您減少不必要的提示大小增長。
通常,如果沒有截斷,後續的每個回合都會附加到 LLM 提示的「對話記錄」中,無論是否與目前的回合相關。這最終可能導致提示在每次輪流時變大。如果對話記錄佔用大量提示空間,提示就無法提供足夠的少樣本範例 (因此可能會捨棄這些範例)。最終,提示也可能會超出目前的權杖限制。您可以增加權杖大小來容納這些內容,但請注意,提示大小增加也會導致 LLM 回應延遲。
脈絡截斷功能可讓您設定詞元預算的百分比,做為對話記錄的保留上限。對話會依時間順序 (從最近到最遠) 保留。 這項設定有助於避免超過權杖限制。 無論選擇哪種設定,系統都會保留至少兩輪對話,並依時間順序排列 (從最近到最遠)。
您必須先設定權杖限制,才能修改這項設定。
如果遭刪除的輪次包含某些參數,截斷內容可能會導致這些參數意外遺失。啟用這項選項後,請仔細評估劇本互動。
下列項目也會使用權杖輸入預算:
- 系統指令和範例:自動新增至提示。 這項行為無法修改。
- 劇本指示和目標:您撰寫的任何指示和目標都會完整加入提示。
- 劇本少量樣本範例:預設會依序新增,或由您選擇的演算法新增 (例如規則運算式最佳比對排序)。在納入所有其他項目後,系統會刪除部分範例,以符合輸入權杖預算。
- 對話記錄包含使用者和代理程式的語音、流程和劇本轉移背景資訊、工具呼叫,以及目前劇本先前處理的所有回合中,同一工作階段的輸出內容。
-
生成式 AI 禁止使用的詞組清單。 如果提示或生成的回覆含有禁用詞組,系統就會無法生成內容。請注意,禁用詞組清單會影響每項查詢和 LLM 呼叫,並增加延遲時間。
-
針對不同的負責任的 AI (RAI) 類別,設定安全篩選機制的敏感度等級。我們會根據下列四個類別評估內容:
類別 說明 仇恨言論 針對特定身分和/或受保護特質發表負面或有害言論。 危險內容 宣傳有害商品、服務和/或活動,或是提供接觸管道 情色露骨內容 提及性行為和/或其他猥褻情事的內容 騷擾 針對他人發表含有恐嚇、霸凌、辱罵或惡意意圖的言論 系統會按照有害機率封鎖內容。您可以為每個類別選擇「封鎖極少數內容」、「封鎖些許內容」和「封鎖多數內容」,自訂敏感度等級。提交專案的風險確認要求並獲得核准後,您也可以存取「完全封鎖」受限選項,停用該類別的 RAI 檢查。
詳情請參閱設定安全屬性。
-
您可以勾選「enable prompt security check」設定,啟用提示安全檢查。 啟用後,如果使用者查詢觸發安全篩選器 (包括提示注入攻擊),代理程式就會拒絕。這類攻擊可能會用來揭露部分代理程式提示,或提供代理程式不應提供的回覆。具體做法是傳送額外的 LLM 提示,檢查使用者查詢是否可能含有惡意內容。啟用後,您可以提供下列選項:
- 提示安全設定: 您可以選取「預設」,使用預設安全設定, 也可以選取「自訂」,明確指出哪些使用者查詢應視為安全或不安全。
- 選取生成模型: 這項設定會控管用於分類的 LLM。 如果選取「預設」 (建議),系統會為你選擇預設模型,且可能會在推出更新更好的模型時自動變更。
- 安全提示: 您可以選取「預設」,使用預設安全提示, 也可以選取「自訂」,提供有助於分類惡意使用者查詢的指示。 如果選取「預設」,系統可能會自動更新提示,以提升品質。
- 輸入門檻: 套用安全性檢查前,使用者查詢的字元數下限。 簡短查詢較為模稜兩可,可能分類錯誤。 如果查詢內容小於輸入門檻,系統會視為本質上安全。
生成式備用答覆
-
請參閱「生成式備用方案:定義自己的提示」。
-
-
資料儲存庫
請參閱「資料儲存庫代理程式設定」。
確定性流程
這些設定會套用至這個代理程式中的所有流程,但機器學習設定除外,因為這類設定會套用至每個流程。如要編輯其他流程專屬設定,請前往控制台中的流程,然後編輯設定。
意圖訓練
流程會使用機器學習 (ML) 演算法瞭解使用者輸入內容、比對意圖,以及擷取結構化資料。流程會從您提供的訓練詞組及流程內建的語言模型學習,然後根據這些資料,建立模型來比對意圖與使用者輸入內容。您可以為每個代理程式流程套用專屬的機器學習設定。
以下是可用的意圖訓練設定:
-
如果啟用這個選項,而使用者輸入內容出現拼字或文法錯誤,將視同正確拼寫,逕行意圖比對。偵測意圖回應將包含更正後的使用者輸入內容。舉例來說,如果使用者輸入「I want an applle」,系統會視為使用者輸入「I want an apple」來處理。這也適用於涉及系統與自訂實體的比對。
拼字修正功能支援英文、法文、德文、西班牙文和義大利文。這項功能適用於所有 Conversational Agents (Dialogflow CX) 區域。
警告與最佳做法:
- 拼字校正無法校正 ASR (自動語音辨識) 錯誤,因此不建議使用 ASR 輸入的代理程式啟用此功能。
- 校正後的輸入內容可能符合錯誤的意圖。您可以將經常拼錯的詞組新增到排除範例來修正此問題。
- 拼字校正會稍微增加代理程式的回應時間。
- 如果代理程式使用領域專用術語定義,校正結果可能不盡如人意。
流程專屬的機器學習設定
-
這可能是以下其中一個項目:
- 進階 NLU (預設):進階 NLU 技術。這種 NLU 類型比標準類型更適合大型代理程式和流程。
- 標準 NLU:標準 NLU 技術。 不會再收到品質提升或新功能。
-
如果啟用,系統會在透過控制台更新流程時訓練流程。 如果流程較大,這可能會導致控制台 UI 延遲,因此您應停用這項設定,並視需要手動訓練大型流程。
-
如要排除偽陽性結果,但仍讓代理程式取得多樣的自然語言輸入內容比對結果,您可以調整機器學習分類門檻。這項設定可控制意圖比對所需的最低意圖偵測信心指數。
如果意圖比對的信心分數低於門檻值,系統就會叫用不相符事件。
您可以為代理程式啟用的每種語言,分別設定每個流程的分類門檻值。這是為了配合不同語言在不同分類門檻下的最佳成效。如要進一步瞭解如何建立多語言代理程式,請參閱多語言代理程式說明文件。
-
指出流程是否已根據流程資料的最新更新內容進行訓練。
-
使用這個按鈕手動訓練流程。
-
-
代理程式支援的語言。 建立代理程式後,就無法變更預設語言。 不過,您可以執行下列操作:
- 將代理程式匯出為 JSON 格式。
- 將下載的檔案解壓縮。
- 找出
agent.json
檔案。 - 將
defaultLanguageCode
和supportedLanguageCodes
欄位更新為所需值。 - 還原代理程式,還原對象可以是步驟 1 中的代理程式,也可以是其他代理程式。
- 視需要更新特定語言的訓練詞組和實體值。
你也可以啟用語言自動偵測和切換功能。
-
連線能力
-
在本節中,您可以為自訂酬載範本建立說明和酬載。
-
清楚說明哪些會話參數會傳送至 Webhook,以及 Webhook 回應可設定哪些會話參數。
-
用於上傳 SSL 憑證。
語音和 IVR
語音選項
-
-
你可以選取語音合成的語言和聲音。
如要為代理程式啟用自訂語音,請從語音選取下拉式方塊中選取自訂語音選項,並在對應欄位中指定自訂語音名稱。自訂聲音名稱必須符合下列格式:
projects/PROJECT_ID/locations/LOCATION/models/MODEL_NAME
。你也可以使用聲音複製功能。
- 如果您使用電話閘道,請確認已在自訂語音專案中,為 Dialogflow 服務代理服務帳戶
service-PROJECT_NUMBER@gcp-sa-dialogflow.iam.gserviceaccount.com
授予「AutoML 預測器」角色。 - 如要進行一般 API 呼叫,請確認用於呼叫對話式代理程式 (Dialogflow CX) 的服務帳戶,已在自訂語音專案中獲授「AutoML Predictor」角色。
- 如果您使用電話閘道,請確認已在自訂語音專案中,為 Dialogflow 服務代理服務帳戶
-
控制語音音調的相對高低。
-
控制語音的說話速度。
-
使用這些設定,以 X-SAMPA 語音編碼為代理程式提供特定詞組的發音。
-
-
-
請參閱「自動語音調整」一文。
-
如要瞭解進階語音選項的詳細資料,請參閱「進階語音設定」指南。
-
詳情請參閱「電話整合的 DTMF」。
-
請參閱手動語音調整。
-
-
通話小幫手
請參閱「通話助手」。
使用者介面設定
你可以使用這些設定自訂 Messenger 和通話助手使用者介面。
安全性
Dialogflow CX 主控台虛擬服務專員設定
如何存取代理程式設定:
主控台
- 開啟控制台。
- 選擇 Google Cloud 專案。
- 選取代理程式。
- 按一下「Agent Settings」(代理程式設定)。
- 視需要更新設定。
- 按一下 [儲存]。
API
請參閱 Agent
類型的 get
和 patch/update
方法。
為代理程式參照選取通訊協定和版本:
通訊協定 | V3 | V3beta1 |
---|---|---|
REST | 服務專員資源 | 服務專員資源 |
RPC | 服務專員介面 | 服務專員介面 |
C++ | AgentsClient | 不適用 |
C# | AgentsClient | 不適用 |
Go | AgentsClient | 不適用 |
Java | AgentsClient | AgentsClient |
Node.js | AgentsClient | AgentsClient |
PHP | 不適用 | 不適用 |
Python | AgentsClient | AgentsClient |
Ruby | 不適用 | 不適用 |
一般設定
以下是可供代理商使用的通用設定:
顯示名稱
代理程式的名稱,方便使用者辨識。
時區
代理程式的預設時區。
預設語言
代理程式支援的預設語言。 建立代理程式後,就無法變更預設語言。 不過,您可以執行下列操作:
代理商鎖定
鎖定代理程式
指出代理是否已鎖定。 鎖定的代理程式無法編輯。
記錄設定
啟用 Cloud Logging
指出是否為代理程式啟用 Cloud Logging。
啟用互動記錄
指出是否要讓 Google 收集及儲存 已編輯 使用者查詢,以改善品質。
啟用以同意聲明為依據的使用者輸入內容遮蓋功能
啟用這項設定後,您可以使用特殊的工作階段參數,控制是否要從對話記錄和 Cloud Logging 中,隱藏使用者輸入內容和參數,預設工作階段參數為
true
。如果停用這項設定,系統就不會進行遮蓋。系統會使用布林值工作階段參數
$session.params.conversation-redaction
收集使用者同意聲明。如果啟用這項設定,且工作階段參數設為false
,系統就不會進行遮蓋(其他遮蓋策略仍會套用)。如果啟用這項設定,且工作階段參數設為true
,系統就會進行遮蓋。舉例來說,要求同意聲明的流程可以是:先詢問使用者是否要保留使用者輸入內容,然後將回覆與兩個意圖配對,一個是「是意圖」,另一個是「否意圖」。然後在執行要求的「yes intent」路徑參數預設中,將工作階段參數設為
false
(不遮蓋),在「no intent」路徑的參數預設中,將工作階段參數設為true
(遮蓋)。
BigQuery Export
啟用 BigQuery Export
指出是否已啟用 BigQuery 匯出功能。
BigQuery 資料集
BigQuery 資料集名稱。
BigQuery 資料表
BigQuery 資料表名稱。
意圖建議
您可以啟用意圖建議。
自訂酬載範本
在本節中,您可以為自訂酬載範本建立說明和酬載。
機器學習設定
Conversational Agents (Dialogflow CX) 會使用機器學習 (ML) 演算法,瞭解使用者輸入內容、比對意圖,以及擷取結構化資料。Conversational Agents (Dialogflow CX) 會從您提供的訓練詞組,以及 Conversational Agents (Dialogflow CX) 內建的語言模型學習。然後根據這些資料,建立模型來比對意圖與使用者輸入內容。您可以為服務專員的每個流程套用專屬的 ML 設定,且 Conversational Agents (Dialogflow CX) 為每個流程建立的模型都不相同。
以下是可用的全代理程式 ML 設定:
允許機器學習修正拼字
如果啟用這個選項,而使用者輸入內容出現拼字或文法錯誤,將視同正確拼寫,逕行意圖比對。偵測意圖回應將包含更正後的使用者輸入內容。舉例來說,如果使用者輸入「I want an applle」,系統會視為使用者輸入「I want an apple」來處理。這也適用於涉及系統與自訂實體的比對。
拼字修正功能支援英文、法文、德文、西班牙文和義大利文。這項功能適用於所有 Conversational Agents (Dialogflow CX) 區域。
警告與最佳做法:
- 拼字校正無法校正 ASR (自動語音辨識) 錯誤,因此不建議使用 ASR 輸入的代理程式啟用此功能。
- 校正後的輸入內容可能符合錯誤的意圖。您可以將經常拼錯的詞組新增到排除範例來修正此問題。
- 拼字校正會稍微增加代理程式的回應時間。
- 如果代理程式使用領域專用術語定義,校正結果可能不盡如人意。
以下是可用的流程專屬 ML 設定:
NLU 類型
這可能是以下其中一個項目:
- 進階 NLU (預設):進階 NLU 技術。這種 NLU 類型比標準類型更適合大型代理程式和流程。
- 標準 NLU:標準 NLU 技術。 不會再收到品質提升或新功能。
自動訓練
如果啟用,系統會在透過控制台更新流程時訓練流程。 如果流程較大,這可能會導致控制台 UI 延遲,因此您應停用這項設定,並視需要手動訓練大型流程。
分類門檻
如要排除偽陽性結果,但仍讓代理程式取得多樣的自然語言輸入內容比對結果,您可以調整機器學習分類門檻。這項設定可控制意圖比對所需的最低意圖偵測信心指數。
如果意圖比對的信心分數低於門檻值,系統就會叫用不相符事件。
您可以為代理程式啟用的每種語言,分別設定每個流程的分類門檻值。這是為了配合不同語言在不同分類門檻下的最佳成效。如要進一步瞭解如何建立多語言代理程式,請參閱多語言代理程式說明文件。
訓練狀態
指出流程是否已根據流程資料的最新更新內容進行訓練。
訓練 NLU
使用這個按鈕手動訓練流程。
生成式 AI 設定
可用的生成式 AI 設定如下:
一般
禁用詞組
生成式 AI 禁止使用的詞組清單。 如果提示或生成的回覆含有禁用詞組,系統就會生成失敗。
安全篩選機制
針對不同的負責任的 AI (RAI) 類別,設定安全篩選器的敏感度。我們會根據下列四個類別評估內容:
類別 說明 仇恨言論 針對特定身分和/或受保護特質發表負面或有害言論。 危險內容 宣傳有害商品、服務與活動,或是提供接觸管道 情色露骨內容 提及性行為或其他猥褻情事的內容 騷擾 針對他人發表含有恐嚇、霸凌、辱罵或惡意意圖的言論 系統會按照有害機率封鎖內容。您可以為每個類別選擇「封鎖極少數內容」、「封鎖些許內容」和「封鎖多數內容」,自訂敏感度等級。提交專案的風險確認要求並獲得核准後,您也可以存取「完全封鎖」受限選項,停用該類別的 RAI 檢查。
詳情請參閱設定安全屬性。
提示安全性
您可以勾選「enable prompt security check」設定,啟用提示安全檢查。 啟用後,代理程式會嘗試防範提示詞注入攻擊。這類攻擊可能會用來揭露部分代理程式提示,或提供代理程式不應提供的回覆。方法是傳送額外的 LLM 提示,檢查使用者查詢是否可能含有惡意內容。
生成式虛擬服務專員
選取生成模型
選取生成式功能使用的模型。 詳情請參閱模型版本。
應對手冊脈絡截斷
教戰手冊內容截斷會從教戰手冊提示中刪除部分先前的輪次,避免提示大小隨著教戰手冊處理的每個連續輪次而增加。這項功能可協助您減少不必要的提示大小增長。
通常,如果沒有截斷,後續的每個回合都會附加到 LLM 提示的「對話記錄」中,無論是否與目前的回合相關。這最終可能導致提示在每次輪流時變大。如果對話記錄佔用大量提示空間,提示就無法提供足夠的少樣本範例 (因此可能會捨棄這些範例)。最終,提示也可能會超出目前的權杖限制。您可以增加權杖大小來容納這些內容,但請注意,提示大小增加也會導致 LLM 回應延遲。
您可以設定保留給對話記錄的權杖預算百分比上限,藉此截斷劇本脈絡。對話會依時間順序 (從最近到最遠) 保留。 這項設定有助於避免超過權杖限制。 無論選擇哪種設定,系統都會保留至少兩輪對話,並依時間順序排列 (從最近到最遠)。
您必須先設定權杖限制,才能修改這項設定。
重要事項:如果參數屬於已刪除的輪次,截斷內容可能會導致部分參數意外遺失。啟用這項選項後,請仔細評估劇本互動。
下列項目也會使用權杖輸入預算:
- 系統指令和範例:自動新增至提示。 這項行為無法修改。
- 劇本指示和目標:您撰寫的任何指示和目標都會完整加入提示。
- 劇本少量樣本範例:預設會依序新增,或由您選擇的演算法新增 (例如規則運算式最佳比對排序)。在納入所有其他項目後,系統會刪除部分範例,以符合輸入權杖預算。
- 對話記錄包含使用者和代理程式的語音、流程和劇本轉移背景資訊、工具呼叫,以及目前劇本先前處理的所有回合中,同一工作階段的輸出內容。
生成式備用答覆
文字提示設定
請參閱「生成式備用方案:定義自己的提示」。
資料儲存庫
請參閱「資料儲存庫代理程式設定」。
語音和 IVR 設定
以下是可用的語音和 IVR 設定:
Text-to-Speech
語音選擇
你可以選取語音合成的語言和聲音。
如要為代理程式啟用自訂語音,請從語音選取下拉式方塊中選取自訂語音選項,並在對應欄位中指定自訂語音名稱。自訂聲音名稱必須符合下列格式:
projects/PROJECT_ID/locations/LOCATION/models/MODEL_NAME
。- 如果您使用電話閘道,請確認已在自訂語音專案中,為 Dialogflow 服務代理服務帳戶
service-PROJECT_NUMBER@gcp-sa-dialogflow.iam.gserviceaccount.com
授予「AutoML 預測器」角色。 - 如要進行一般 API 呼叫,請確認用於呼叫對話式代理程式 (Dialogflow CX) 的服務帳戶,已在自訂語音專案中獲授「AutoML Predictor」角色。
- 如果您使用電話閘道,請確認已在自訂語音專案中,為 Dialogflow 服務代理服務帳戶
Speech-to-Text
DTMF
詳情請參閱「電話整合的 DTMF」。
多模態
請參閱「通話助手」。
共用設定
請參閱「存取權控管」。
語言設定
為代理程式新增其他語言支援。 如需完整語言清單,請參閱語言參考資料。
自動偵測語言
設定語言自動偵測後,聊天機器人會自動偵測使用者的語言,並切換至該語言。詳情請參閱語言自動偵測說明文件。
安全性設定
請參閱「安全性設定」。
進階設定
目前唯一的高階設定是情緒分析。
AI Applications 控制台設定
本節說明代理程式應用程式可用的設定。
一般
代理程式應用程式可使用下列一般設定:
顯示名稱
代理程式應用程式的人類可讀名稱。
位置
服務專員應用程式區域。
應用程式鎖定
啟用後,系統不允許變更代理程式應用程式。
記錄
代理程式應用程式可使用下列記錄設定:
啟用 Cloud Logging
啟用後,記錄檔會傳送至 Cloud Logging。
啟用對話記錄
啟用後,即可查看對話記錄。指出是否要讓 Google 收集及儲存經過編輯的使用者查詢,以改善品質。這項設定不會影響系統是否使用對話記錄產生虛擬服務專員回覆。
啟用 BigQuery Export
啟用後,系統會將對話記錄匯出至 BigQuery。此外,也必須啟用「啟用對話記錄」設定。
生成式 AI
代理程式應用程式可使用下列生成式 AI 設定:
選取生成模型
選取代理程式應預設使用的生成模型。
輸入權杖限制
選取生成模型的輸入權杖限制。這是傳送至模型的輸入內容詞元大小上限。 視模型而定,權杖的長度可能介於一個字元到一個單字之間。較小的權杖限制延遲時間較短,但模型輸入大小有限。權杖上限越高,延遲就越長,但模型輸入大小可以更大。
輸出詞元限制
選取生成模型的輸出權杖限制。 這是模型輸出內容的符記大小上限。 視模型而定,權杖的長度可能介於一個字元到一個單字之間。較小的權杖限制延遲時間較短,但模型輸出大小有限。權杖上限越高,延遲時間就越長,但模型輸出大小可以更大。
溫度
您可以透過大型語言模型的溫度,控制回覆的創意程度。值越低,回覆越符合預期。 值越高,回覆就越有創意或越隨機。
禁用詞組
生成式 AI 禁止使用的詞組清單。 如果提示或生成的回覆中出現禁用詞組,代理程式會改為傳回備用回覆。
安全篩選機制
針對不同的負責任的 AI (RAI) 類別,設定安全篩選器的敏感度。我們會根據下列四個類別評估內容:
類別 說明 仇恨言論 針對特定身分和/或受保護特質發表負面或有害言論。 危險內容 宣傳有害商品、服務與活動,或是提供接觸管道 情色露骨內容 提及性行為或其他猥褻情事的內容 騷擾 針對他人發表含有恐嚇、霸凌、辱罵或惡意意圖的言論 系統會按照有害機率封鎖內容。您可以為每個類別選擇「封鎖極少數內容」 (僅封鎖有害機率高的內容)、「封鎖些許內容」 (封鎖有害機率中等和高的內容) 和「封鎖多數內容」 (封鎖有害機率低、中等和高的內容),自訂敏感度等級。提交專案的風險確認要求並獲得核准後,您也可以存取「完全封鎖」受限選項,停用該類別的 RAI 檢查。
詳情請參閱設定安全屬性。
提示安全性
您可以勾選「enable prompt security check」設定,啟用提示安全檢查。 啟用後,代理程式會嘗試防範提示詞注入攻擊。這類攻擊可能會用來揭露部分代理程式提示,或提供代理程式不應提供的回覆。方法是傳送額外的 LLM 提示,檢查使用者查詢是否可能含有惡意內容。
Git
這些設定提供 Git 整合功能。 按照操作說明設定整合功能。