Apigee によるエンタープライズ対応の生成 AI

Apigee のコア API ゲートウェイ機能には、AI アプリケーションのトラフィックを管理するためのネイティブ機能が含まれており、サービス消費の一貫した API 契約を提供します。  

次の機能が含まれています。

• モデル抽象化
• マルチクラウド モデル ルーティング
• リクエスト / レスポンスの拡充
• RAG の統合
• サードパーティ システムへのエージェントの接続性（Google Cloud の Application Integration プラットフォームを使用）
• 高可用性のための LLM サーキット ブレーカー パターン
• セマンティック キャッシュ

AI エージェントは、LLM の機能を活用してエンドユーザーのためにタスクを遂行します。エージェントの構築には、Agentspace などのノーコードまたはローコードのプラットフォームから、LangChain や LlamaIndex などのフルコードのフレームワークまで、さまざまなツールを使用できます。Apigee は AI アプリケーションとエージェントの間で仲介役として機能します。

Apigee で Gemini Code Assist が一般提供されたことで、Cloud Code と Gemini Chat の両方のインターフェースで自然言語を使用して API 仕様を迅速に作成できるようになりました。API Hub を通じて組織の API エコシステムを活用することで、ネストされたオブジェクトのサポートと API の重複の予防検出を備えた、一貫性のある安全な API のためのエンタープライズ コンテキストが提供されます。

次の機能が含まれています。

• Apigee API Hub: 自社 API とサードパーティ API およびワークフローをカタログ化する
• 費用管理のためのトークン制限の適用
• マルチエージェント オーケストレーション
• 認証と認可
• パフォーマンスを最適化するためのセマンティック キャッシュ
• エンタープライズ コンテキストによる API 仕様の生成（Gemini Code Assist を使用）

Apigee のネイティブ ポリシーと配信機能により、生成 AI プラットフォーム チームは AI アプリケーションと LLM の使用を効率的に管理できます。

次の機能が含まれています。

• モデルへのセルフサービス アクセスを可能にする統合デベロッパー ポータル
• モデルのアクセスと使用の制限をポリシーベースできめ細かく制御
• トークンの使用制限のモニタリングとレポート
• LLM の監査とロギング

Apigee は、AI アプリケーションの詳細なオブザーバビリティを提供し、生成 AI の費用を管理、最適化し、組織の AI 使用を効率的に管理できるようにします。

次の機能が含まれています。

• モデルの使用状況とアプリケーション トークンの消費状況の可視化
• 社内費用のレポート作成と最適化
• 実際のトークン数に基づいて使用状況をモニタリングするカスタム ダッシュボード（Looker Studio とのインテグレーションを通じて）
• AI アプリケーションのログ記録

Apigee は、LLM API の安全なゲートウェイとして機能し、API キー、OAuth 2.0、JWT 検証でアクセスを制御し、レート制限と割り当てを適用して不正使用と過負荷を防止します。Apigee の Advanced API Security は、さらに高度な保護機能を提供します。

能力:

• Model Armor のインテグレーションと、プロンプトとレスポンスのサニタイズのためのポリシーの適用
• 認証と認可
• 不正使用と異常検出
• OWASP トップ 10 API および LLM セキュリティ リスクの軽減
• LLM API セキュリティ構成ミスの検出
• Google SecOps とサードパーティの SIEM の統合