本頁說明如何使用 Gemini Cloud Assist (適用於 Google Cloud的 AI 協作工具)，微調 Google Kubernetes Engine (GKE) 部署作業，進而提升效能和可靠性。Gemini 輔助功能包括建議、程式碼生成和疑難排解。
Gemini Cloud Assist 的優點眾多，包括協助您完成下列事項：
- 降低成本：找出閒置資源、調整部署大小，並最佳化自動調度資源設定，盡量減少不必要的支出。
- 提升穩定性和可靠性：主動找出潛在問題，例如版本偏差或缺少 Pod 中斷預算，以防止停機並確保應用程式復原能力。
- 最佳化 AI/機器學習工作負載：協助您在 GKE 上部署、管理及最佳化 AI/機器學習工作負載。
- 簡化疑難排解程序：快速分析記錄並找出錯誤的根本原因，節省時間和精力。
本頁內容適用於現有 GKE 使用者，以及佈建和設定雲端資源，並部署應用程式和服務的運算符和開發人員。如要進一步瞭解內容中提及的常見角色和範例工作，請參閱「常見的 GKE 使用者角色和工作」。 Google Cloud
瞭解 Gemini for Google Cloud 如何使用您的資料，以及使用時機。
費用
Gemini：預先發布期間，使用 Gemini Cloud Assist 不會產生費用。
GKE：在 GKE 中使用 Gemini Cloud Assist 不會產生額外費用。
事前準備
如要開始在 GKE 中使用 Gemini，請先完成下列先決條件。
-
Verify that billing is enabled for your Google Cloud project.
- 請身分和帳戶管理員授予您存取及修改 GKE 資源的必要權限。
- 請按照「設定 Gemini Cloud Assist」指南中的指示，在專案或資料夾中啟用 Gemini Cloud Assist，並將特定 Identity and Access Management (IAM) 角色授予主體。
本指南假設您有 GKE 叢集，最好還執行了一些部署作業。
詢問 Gemini Cloud Assist
您可以透過 Google Cloud 控制台叫用 Gemini Cloud Assist。Gemini Cloud Assist 可讓您使用自然語言提示，快速有效地取得工作協助。
如要從 GKE 頁面開啟 Cloud Assist，請按照下列步驟操作：
在 Google Cloud 控制台的專案選取器頁面中，選取Google Cloud 已啟用 Gemini Cloud Assist 的專案。
在 Google Cloud 控制台中，前往 Kubernetes Engine 控制台的特定頁面。
舉例來說，前往「Kubernetes Engine 總覽」頁面。
如要詢問特定資源，請先前往相關頁面。舉例來說，在「叢集」頁面，Gemini Cloud Assist 可以提供叢集管理、叢集健康狀態監控和叢集問題排解方面的建議。在特定管理中心頁面使用 Gemini，有助於為問題提供脈絡資訊。 Google Cloud Gemini 接著會使用這個脈絡和您所處的整體專案，生成更貼近需求且準確的協助內容。
如要開啟 Gemini Cloud Assist 窗格，請點選工具列中的火花「開啟或關閉 Gemini AI 對話」。
如果系統提示您同意條款，請按一下「接受」。
在 Gemini 窗格中輸入提示詞。請參閱下一節的範例工作流程，瞭解如何使用 Gemini 進行疑難排解。
如要進一步瞭解如何在 Google Cloud 控制台中使用 Gemini，請參閱「使用 Gemini Cloud Assist」。
使用 Gemini 進行疑難排解的範例
Gemini 可以協助您排解 GKE 服務的問題。
前往 Google Cloud 控制台的「Workloads」(工作負載) 頁面。
選取要排解問題的工作負載。
按一下 [Logs] (記錄) 分頁標籤。
在工具列中，按一下「spark Open or close Gemini AI chat」。
輸入提示，說明你遇到的問題。例如：「我的
accounts-db資料庫應用程式延遲時間過長」。Gemini 可能會要求提供更多脈絡資訊，例如資料庫類型、影響範圍 (例如延遲時間影響的作業和使用者)。Gemini 接著會提供指引，協助您自行分析記錄，並提供疑難排解建議。
請查看建議並按照指示操作，解決問題。
Gemini Cloud Assist 提示範例
本節會列舉一些實際用途，並建議您可以嘗試向 Gemini 提出的提示。您收到的實際回覆可能是一般回覆，也可能根據Google Cloud 環境的獨特狀態提供個人化回覆，並建議可執行的動作。回覆內容可能包含 Google Cloud 控制台連結 Google Cloud ，方便您查看及管理 Cloud 資源，以及相關說明文件連結，方便您進一步瞭解詳情。
降低成本
下表說明可協助降低費用的提示。
| 提示 | 回覆類型 |
|---|---|
| 「如何節省 GKE 叢集的費用，又不犧牲效能？」 |
|
「我想升級 my-docker-cluster GKE 叢集，想推薦商家嗎？ |
建議實作特定 Kubernetes 設定和最佳做法，例如：
|
「my-docker-cluster叢集在幾週後會出現大量流量尖峰，想推薦商家嗎？ |
|
| 「哪些 GKE 工作負載未啟用 HPA？」 | 未啟用水平 Pod 自動調度功能的工作負載清單。 |
提高可靠性和穩定性
下表說明可使用的提示，有助於提升 GKE 工作負載的穩定性和可靠性。
| 提示 | 回覆類型 |
|---|---|
| 「如何提升 GKE 叢集的穩定性，避免發生停機問題？」 |
|
「Show me how I can move my workloads from the Default namespace on my-cluster.」(請說明如何將工作負載從 my-cluster 上的 Default 命名空間遷移出來)。 |
如要執行下列操作，請按照下列步驟操作：
|
| 「如何確保執行中的 Pod 具有高可用性？」 |
|
針對 AI/機器學習工作負載最佳化 GKE
下表說明可使用的提示，協助您在 GKE 上部署、管理及最佳化 AI/機器學習工作負載。
| 提示 | 回覆類型 |
|---|---|
| 「在 GKE 上使用 GPU 執行大規模分散式 TensorFlow 訓練時，建議使用哪些節點集區設定？」 | 以下是最佳化 GKE 上分散式 TensorFlow 機器學習訓練作業的建議：
|
| 「如何在 GKE 上使用 GPU 進行訓練？」 | 設定叢集和工作負載以使用 GPU 的步驟和注意事項總覽。 |
| 「Give me an example of deploying a model serving container on GKE.」(請提供在 GKE 上部署模型服務容器的範例)。 | 範例：使用範例程式碼在 GKE 上部署模型服務容器。範例可能會納入最佳做法，並確保可擴充性。 |
| 「我應該追蹤哪些指標，才能評估推論的負載平衡設定成效？」 | 指標清單，例如流量分配、延遲時間、錯誤率、CPU 和記憶體使用率，可深入瞭解負載平衡設定的效能和健康狀態。 |
簡化疑難排解程序
下表說明可使用的提示，協助您快速分析記錄檔並找出錯誤的根本原因，節省時間和精力。
| 提示 | 回覆類型 |
|---|---|
「這個錯誤是什麼意思？Readiness probe failed: Get "https://10…./abcd": context deadline exceeded (Client.Timeout exceeded while awaiting headers)」
|
說明 kubelet 無法在定義的逾時期間內執行容器的就緒探查，並提供可能原因和疑難排解動作。 |
「Why is my deployment nettools crashing with error ping: socket: Operation not permitted?」(為什麼我的部署作業 nettools 會因錯誤 ping: socket: Operation not permitted 而當機？) |
說明 ping 指令需要 CAP_NET_RAW 安全性環境功能，且基於安全考量，Kubernetes 中的容器預設會以一組受限的功能執行。
|
「如果 Pod 發生 Cannot schedule pods: No preemption victims found for incoming pod. 錯誤而無法排程，代表什麼意思？」
|
說明 Kubernetes 中 Pod 的排程和搶占機制。列出疑難排解步驟，說明為何找不到搶占受害者。 |
後續步驟
- 瞭解如何撰寫更優質的提示。
- 瞭解如何使用 Gemini Cloud Assist 面板。
- 請參閱「使用 Gemini 進行 AI 輔助及開發」一文。
- 瞭解 Gemini for Google Cloud 如何使用您的資料。