透過 Apigee 打造企業級生成式 AI

Apigee 的核心 API 閘道功能包含原生功能，可管理 AI 應用程式的流量，並為服務使用者提供一致的 API 合約。  

功能包括：

• 模型抽象化
• 多雲端模型轉送
• 要求 / 回覆擴充
• RAG 整合
• 串連代理和第三方系統 (使用 Google Cloud 的 Application Integration 平台)
• 高可用性的 LLM 斷路器模式
• 語意快取

AI 代理會運用 LLM 功能代替使用者完成工作。您可以使用多種工具建構這些代理，包括 Agentspace 等無程式碼和低程式碼平台，以及 LangChain 或 LlamaIndex 等全程式碼架構。Apigee 是 AI 應用程式與其代理之間的中介服務。

Apigee 中的 Gemini Code Assist 已正式發布，您可以透過 Cloud Code 和 Gemini 對話介面，使用自然語言快速建立 API 規格。透過 API 中心運用企業的 API 生態系統，可以提供「企業脈絡」，確保 API 一致且安全，同時支援巢狀物件，並能主動偵測重複的 API。

功能包括：

• Apigee API 中心：彙整第一方和第三方 API 與工作流程
• 強制執行權杖限制來控管成本
• 多代理自動化調度管理
• 驗證及授權
• 進行語意快取來提升效能
• 使用 Gemini Code Assist 生成符合「企業脈絡」的 API 規格

Apigee 的原生政策和發布功能，可協助生成式 AI 平台團隊有效管理 AI 應用程式和 LLM 的使用情形。

功能包括：

• 整合式開發人員入口網站，讓員工自行存取模型
• 以政策為基礎的精細控管機制，可控管模型存取權和用量限制
• 權杖用量限制的監控和回報機制
• LLM 稽核與記錄

您可以透過 Apigee 深度監控 AI 應用程式、管理及最佳化生成式 AI 開銷，並有效率地管理貴組織的 AI 使用情形。

功能包括：

• 掌握模型使用情形和應用程式權杖用量
• 內部成本報表和最佳化
• 自訂資訊主頁，根據實際的權杖數量監控用量 (需與 Looker Studio 整合)
• 記錄 AI 應用程式

Apigee 可做為 LLM API 的安全閘道，讓您透過 API 金鑰、OAuth 2.0 和 JWT 驗證機制控管存取權，並強制執行頻率限制和配額來防止濫用和過載。Apigee Advanced API Security 可提供更進階的防護。

能力：

• Model Armor 整合與政策強制執行功能可清理提示和回覆
• 驗證及授權
• 濫用與異常偵測
• 防範 OWASP 公告的十大 API 和 LLM 資安風險
• LLM API 安全性錯誤設定偵測
• Google SecOps 與第三方 SIEM 整合