Apigee を使用したエンタープライズ対応の生成 AI

Apigee のコア API ゲートウェイ機能には、AI アプリケーションのトラフィックを管理するためのネイティブ機能が含まれており、サービス消費の一貫した API 契約を提供します。  

次の機能が含まれています。

• モデル抽象化
• マルチクラウド モデルのルーティング
• リクエスト / レスポンスのエンリッチメント
• RAG の統合
• サードパーティ システムへのエージェントの接続性（Google Cloud の Application Integration プラットフォームを使用）
• 高可用性を実現する LLM 回路ブレーカー パターン
• セマンティック キャッシュ保存

AI エージェントは、LLM の機能を活用してエンドユーザーのためにタスクを遂行します。エージェントの構築には、Agentspace などのノーコードまたはローコードのプラットフォームから、LangChain や LlamaIndex などのフルコードのフレームワークまで、さまざまなツールを使用できます。Apigee は AI アプリケーションとエージェントの間で仲介役として機能します。

このたび、Apigee で Gemini Code Assist の一般提供が開始され、Cloud Code と Gemini Chat の両方のインターフェースで自然言語を使用して API 仕様を迅速に作成できるようになりました。API Hub を通じて組織の API エコシステムを活用することで、ネストされたオブジェクトのサポートと API の重複の予防検出を備えた、一貫性のある安全な API のためのエンタープライズ コンテキストが提供されます。

次の機能が含まれています。

• Apigee API ハブ: 自社 API とサードパーティ API およびワークフローをカタログ化
• 費用管理のためのトークン上限の適用
• マルチ エージェントのオーケストレーション
• 認証と認可
• セマンティック キャッシュでパフォーマンスを最適化
• エンタープライズ コンテキストによる API 仕様の生成（Gemini Code Assist を使用）

Apigee のネイティブ ポリシーと配信機能により、生成 AI プラットフォーム チームは AI アプリケーションと LLM の使用を効率的に管理できます。

次の機能が含まれています。

• モデルへのセルフサービス アクセスを実現する統合デベロッパー ポータル
• モデルのアクセスと使用量上限に関するポリシーベースのきめ細かい制御
• トークンの使用量上限のモニタリングとレポート
• LLM の監査とロギング

Apigee は、AI アプリケーションの深いオブザーバビリティを提供し、生成 AI の費用を管理、最適化して、組織の AI 使用状況を効率的に管理できるようにします。

次の機能が含まれています。

• モデルの使用状況とアプリケーション トークンの消費状況の可視化
• 社内の費用レポートと最適化
• 実際のトークン数に基づいて使用状況をモニタリングするカスタム ダッシュボード（データポータル（旧 Looker Studio）との統合を通じて）
• AI アプリケーションのロギング

Apigee は、API キー、OAuth 2.0、JWT 検証でアクセスを制御できる、LLM API のセキュア ゲートウェイとしても機能します。また、レート制限と割り当てを適用することで、悪用や過負荷を防止できます。Apigee Advanced API Security は、さらに高度な保護を提供します。

機能:

• Model Armor の統合とポリシーの適用によるプロンプトとレスポンスのサニタイズ
• 認証と認可
• 不正行為と異常の検出
• OWASP トップ 10 の API と LLM のセキュリティ リスクに対する軽減策
• LLM API のセキュリティ構成ミス検出
• Google SecOps とサードパーティの SIEM の統合