玉山銀行採用生成式 AI 的第一步是為分行行員打造名為「金秘書」的 AI 助手。由於銀行業務觸及的法規和流程繁雜，資歷較淺的分行行員在遇到不熟悉的業務時，經常需要聯絡總行業務管理單位詢問，拉長顧客的等候時間。打造 AI 助手能讓銀行行員自行快速找到需要的資訊，提高服務效率。

在 Google Cloud PSO 團隊的技術建議下，玉山銀行使用 Vertex AI Search 開發「金秘書」。由於 Vertex AI Search 的檢索增強生成（RAG）模型支持銀行業普遍使用的非結構化資料，得以快速開發 AI 助手模型，不需要多花時間將非結構化資料轉為結構化資料。「金秘書」僅經過三個月開發便順利上線，很快取得良好的成效——分行打給總行的詢問電話數量減少了 30%。

接下來，玉山銀行運用 Conversational Agents 在行動銀行中推出「AI 房貸顧問」。在此之前，玉山銀行的聊天機器人只能回覆制式問題，應用範圍有限。現在，玉山行動銀行使用者能隨時諮詢「AI 房貸顧問」，獲取申請房貸前之所需資訊。

透過 Google Cloud，玉山銀行得以落實多層次的安全措施，保障客戶資料的安全，並符合金融服務法規要求。Google Cloud 通過 ISO/IEC 42001 認證，表示玉山銀行在 Google Cloud 上 AI 模型的開發、部署和運作都符合國際管理標準。

此外，玉山銀行將所有顧客資料都儲存在地端。當部署在 Google Cloud 上的「金秘書」或「AI 房貸顧問」需要顧客資料時，顧客的個資會在透過 API Gateway 傳送到雲端時由 Cloud Data Loss Protection 遮罩或替換字符，不會與雲端上的模型分享。為確保其 AI 模型不會回覆或生成不適當內容，玉山銀行也使用 Guardrails API 辨識潛在不當或風險文字。

「安全是銀行服務的核心。我們必須確保安全機制滴水不漏，才能獲得客戶的信任。」謝萬禮指出。「Google Cloud 提供豐富的安全解決方案，協助我們在探索新技術的同時維持高安全標準。」

未來，玉山銀行將持續優化「AI 房貸顧問」，並擴大對生成式 AI 的應用，解決其他業務上的痛點。