與 Google Kubernetes Engine 整合

Model Armor 可透過服務擴充功能與 Google Kubernetes Engine (GKE) 整合。服務擴充功能可讓您在網路流量處理路徑中新增自訂邏輯。流量擴充功能是特定類型的服務擴充功能，可讓您整合外部服務來處理流量。這些擴充功能可附加至各種 Google Cloud 服務，包括負載平衡器。您可以在應用程式負載平衡器上設定服務擴充功能，包括 GKE 推論閘道，篩選進出 GKE 叢集的流量。這可確保所有與 AI 模型的互動都受到 Model Armor 保護。詳情請參閱「設定流量擴充功能來呼叫 Model Armor 服務」。

運作方式

1. 您可以在負載平衡器上設定服務擴充功能，將流量轉送至 GKE 叢集中託管的 LLM。這項設定指定應使用 Model Armor 篩選提示詞和回覆。
2. 當提示和回覆抵達負載平衡器時，服務擴充功能會呼叫 Model Armor 服務。
3. 接著，Model Armor 會將安全政策套用至提示詞和回覆，識別並封鎖任何惡意或有害內容。
4. 只有通過 Model Armor 檢查的提示詞和回覆，才能傳送至 GKE 叢集或傳回給您。