大規模言語モデル（LLM）は、さまざまな問題の解決に効果的です。ただし、次のような制限があります。
- トレーニングが完了すると固定されるため、新しい知識で更新されません。
- 外部データのクエリや変更はできません。
Vertex AI Extensions（現在は限定公開プレビュー版）は、こうした欠点を補うエンタープライズ拡張機能のプラットフォームです。Vertex AI Extensions を使用すると、大規模言語モデルを外部システムの API に接続する拡張機能の作成、デプロイ、管理を行うことができます。これらのシステムは、LLM にリアルタイム データを提供し、LLM に代わってデータ処理アクションを実行できます。
Vertex AI Extensions は、ReAct などのパターンや LangChain などのフレームワークと互換性があります。Vertex AI Extensions を使用すると、LLM を拡張機能のアクションと連結して、複雑なタスクを計画、推論、完了できます。
詳細については、Vertex AI Extensions のユースケースとメリットをご覧ください。ご自身で拡張機能を試すには、拡張機能の Trusted Tester プログラムにご登録ください。
Vertex AI Extensions のユースケースとメリット
Vertex AI Extensions を使用すると、大規模言語モデルを外部システムの API に接続する拡張機能の作成、デプロイ、管理を行うことができます。これらのシステムは、LLM にリアルタイム データを提供し、LLM に代わってデータ処理アクションを実行できます。次のようなユースケースが考えられます。
- コードを生成して実行する。
- ウェブサイトにクエリを行い、情報をまとめる。
- エンタープライズ データソースをインデックスに登録し、検索を強化する。
- データストアのクエリと分析を行う。
Vertex AI Extensions は、ReAct などのパターンや LangChain などのフレームワークと互換性があります。Vertex AI Extensions を使用すると、LLM を拡張機能のアクションと連結して、複雑なタスクを計画、推論、完了できます。 次のようなユースケースが考えられます。
- ドキュメントからプレゼンテーションを作成する。
- 費用の払い戻しを申請する。
- 旅行の計画を立てたり、チケットを購入したりする。
- セキュリティ インシデントへの対応を提案し、実施する。
Vertex AI Extensions には次のメリットがあります。
- エンタープライズ管理: IAM 権限とアクセスの透明性（AXT）、データ所在地（DRZ）、顧客管理の暗号鍵（CMEK）、Virtual Private Cloud セキュリティ管理（VPC-SC）。
- パフォーマンスの保証: 機密データの漏洩やモデル トレーニングでの使用を防ぎ、プラットフォームで特定の機能と稼働時間を提供するという契約上の合意。
- 非公開の拡張機能: 組織内で承認されているユーザーまたは信頼できるパートナーが、拡張機能を使用して、社内のナレッジベースの検索や人事アクションの完了など、機密性の高い内部データとアクションにアクセスできます。
- Google プロダクトのインテグレーション: BigQuery、Vertex AI Search、専用モデルなどの Google プロダクトとのインテグレーション。