Vertex AI Prompt Optimizer 公開プレビュー版のお知らせ
George Lee
Product Manager, Cloud AI Research
Ivan Nardini
AI/ML DevRel Engineer, Cloud AI
※この投稿は米国時間 2024 年 9 月 27 日に、Google Cloud blog に投稿されたものの抄訳です。
プロンプト設計とプロンプト エンジニアリングは、大規模言語モデル(LLM)から意味のある出力を得るための方法の中で、最もアプローチしやすいものの一つとして注目されています。しかし、大規模言語モデルにプロンプトを与える作業は、複雑な迷路を歩くようなものです。期待どおりの出力を得るには、指示と例をさまざまに組み合わせて試す必要があります。さらに、理想的なプロンプト テンプレートが見つかっても、また別の LLM でそのテンプレートから最適な結果が得られる保証はありません。
言語モデルによって挙動が異なるため、ある LLM から別の LLM にプロンプトを移行する、または別の LLM のために変換するのは困難です。単純なプロンプトの再利用では効果が上がらないため、有用な出力を生成するにはインテリジェントなプロンプト オプティマイザーが必要です。
LLM ベースのアプリケーションをビルドしている際に感じる「プロンプト疲れ」を軽減するために、Vertex AI Prompt Optimizer の公開プレビュー版を発表します。
Vertex AI Prompt Optimizer とは
Vertex AI Prompt Optimizer を使用すると、Vertex AI 上の任意のモデルに対する最適なプロンプト(指示とデモンストレーション)を見つけやすくなります。Vertex AI Prompt Optimizer は、自動プロンプト最適化(APO)手法に関する Google Research の論文(NeurIPS 2024 で採択)に基づき、反復的な LLM ベースの最適化アルゴリズムを使用して、オプティマイザー モデル(指示の言い換えの生成を実施)と評価モデル(選択した指示とデモンストレーションを評価)をうまく組み合わせて、プロンプトの候補を生成して評価します。その後、ユーザーが選んだ最適化対象の評価指標に基づき、最適な指示とデモンストレーションを選択します。指示には、プロンプト テンプレートのシステム指示、コンテキスト、タスクが含まれます。デモンストレーションは、モデルのレスポンスから特定のスタイルやトーンを引き出すためにプロンプト中に含める少数ショットの例です。
Vertex AI Prompt Optimizer は、構成済みの最適化設定のもと、わずかなラベル付きの例を使って、ターゲット モデルに最適なプロンプト(指示とデモンストレーション)を見つけます。そのため、新しい LLM ごとに既存のプロンプトを手動で最適化する必要がなくなり、Vertex AI で特定のタスク向けに新規プロンプトを作成したり、あるモデルから別のモデルへとプロンプトを変換する作業が簡単になります。その主な特徴は、次のようなものです。
-
最適化が簡単: どのような Google モデルがターゲットでも、任意のソースモデルからの移行や変換を含め、迅速にプロンプトを最適化できます。
-
汎用的なタスク ハンドリング: あらゆる形のテキストベースのタスク(質問と回答、要約、分類、エンティティ抽出など)に対応しており、マルチモーダル タスクへのサポート拡張も間もなく対応予定です。
-
包括的な評価: モデルベース、計算ベース、カスタム指標など多様な評価指標をサポートしており、重視する指標に対してプロンプトの性能が最適になるようにします。
- 柔軟でカスタマイズ可能: ユーザーは習熟度とニーズに応じて、高度な設定やさまざまなバージョンのノートブックを使用し、最適化のプロセスとレイテンシをカスタマイズできます。


Vertex AI Prompt Optimizer を使用する理由
データドリブンの最適化: 既存のプロンプト最適化ツールの多くは、好みのスタイルやトーンに合わせたプロンプトのカスタマイズが主眼で、多くの場合、さらに人間による検証が必要です。ですが、Vertex AI Prompt Optimizer ならこれだけにとどまりません。特定の評価指標に基づいてプロンプトを最適化するので、ターゲット モデル向けに可能な限り優れたパフォーマンスが確保されます。
Gemini 用に構築: Vertex AI Prompt Optimizer は Gemini の基礎的な性質を念頭に設計されています。具体的には、Gemini やその他の Google のモデルに固有の属性に合わせて設計されています。Gemini に合わせてカスタマイズされたこのようなアプローチにより、Gemini をお使いであれば、Gemini の能力を最大限に発揮させて、優れた結果を達成することが可能になります。
Vertex AI Prompt Optimizer のスタートガイド
Vertex AI Prompt Optimizer の使用開始にあたっては、GitHub の Google Cloud 生成 AI リポジトリで入手できる Colab ノートブックを使用できます。これには Google Cloud の生成 AI に関するサンプルコードとノートブックが含まれています。基本設定については UI 版を、高度な設定については SDK 版を参照してください。今後数週間以内に、カスタム指標やマルチモーダル入力をサポートするノートブックのバージョンをいくつか追加します。これには Vertex AI Studio コンソールからもアクセスできます。コンソールで「prompt optimizer(プロンプト オプティマイザー)」もしくは「optimizer your prompt further(プロンプトをさらに最適化する)」と書かれたエントリー ポイントを見てください。
Vertex AI Prompt Optimizer を使用したプロンプトの最適化や変換は、次の手順に沿って行います。
-
プロンプト テンプレートを構成する
-
データ(ラベル付きの例)を入力する
-
最適化設定を構成する(ターゲット モデル、評価指標など)
-
最適化ジョブを実行する
-
結果を確認する
Vertex AI Prompt Optimizer は、生成 AI の評価サービスでサポートされているすべての Google モデルと評価指標をサポートしています。
Vertex AI Studio から Vertex AI Prompt Optimizer Colab Enterprise ノートブックへのエントリー ポイント
A. 保存済みのプロンプトのページには、新しく [プロンプト オプティマイザー] ボタンがあります。


B. プロンプト支援(Prompt assist)ダイアログのポップアップには、新しく [プロンプトをさらに最適化する] ボタンがあります。


AdVon Commerce と Augmedix での Vertex AI Prompt Optimizer を使用した Gemini プロンプトの改善
デジタル コマース プラットフォーム企業の AdVon Commerce は、Google Cloud と連携し、カスタムの AI ソリューションを使用して小売業界向けに上質なコンテンツを大きな規模で提供しています。AdVon Commerce は、LLM を使用して、製品を正しく伝えられるよう、適切なキーワードを含んだ正確で魅力のある製品ページ コンテンツを大量に作成しています。小売用ページの最適化にあたっては、多くの不足データや不正確なデータへの対処が必要でした。お客様第一のコンテンツを作成するには、製品の検索可能性やカスタマー ジャーニーのために不可欠な製品の属性に抜けがないように、すべて揃える必要があります。
Vertex AI Prompt Optimizer によって AI プロンプトの作成と改善が合理化され、精度と有用性が向上しました。AdVon Commerce では属性の精度が 10% 改善したことが確認されており、人の手による検証に要する時間を大幅に削減できた結果、大きな費用削減を達成しつつ、高品質なコンテンツ制作に引き続き注力することが可能になっています。Gemini Flash との組み合わせで、不正確な仕様の低減と製品ページ コンテンツの品質向上について見事な成果が上がっています。たとえば、AdVon Commerce は最近、世界最大級の小売事業者に向けて、何億点もの商品を対象に、Vertex AI Prompt Optimizer と Gemini 1.5 Flash を使用して商品属性の作成および入力プロセスの自動化を支援しました。人手に頼ったままであれば 100 倍もの時間がかかったはずなので、その事業者にとっては 100 倍の生産性向上となっています。
AdVon Commerce の最高技術責任者である Vlad Barshai 氏は、次のように語っています。「Vertex AI Prompt Optimizer によって Gemini Flash 用のプロンプトを最適化でき、小売のリスティングでの商品属性や商品詳細ページ(PDP)の精度について従来比で 10% 改善できました。これは市場にある他の AI モデルの結果を大きく上回っています。Vertex AI Prompt Optimizer によって、人手による検証の時間を節約でき、1 ループで何百万という製品のデータを揃えて、プロンプトを最適化し、AI 属性と PDP コンテンツを大量に作成できます。人間参加型の確実なプロセスも相まって、Vertex AI Prompt Optimizer によって、高品質なデータ作成を毎回行うことが可能になりました。」
Augmedix はアンビエント AI による医療用ドキュメント制作とデータ ソリューションの有力企業で、これまでに 1,000 万を超える医療記録を作成しています。Google Cloud と連携して医療機関向けの医療ドキュメント制作の改善に取り組んでいます。Augmedix は LLM を使用して患者とのやりとりの記録の効率と精度を向上させ、臨床医の管理業務にかかる負担を軽減し、最終的には患者へのケアを改善します。Augmedix では、モデルのファインチューニングと入力プロンプトの調整によるハイブリッド アプローチを採用しており、記録作成の大部分では、ファインチューニングが功を奏し、基本的なプロンプトが効果を上げています。システムの他の部分では、LLM に指示を出すルールが数百もあり、そのルールのプロンプトをチューニングするのが最善です。
Augmedix では、Vertex AI Prompt Optimizer を使用し、医師と患者の会話から生成する医療記録を改善しています。この機能により LLM 出力の品質スコアが 66% から 86% に改善しました。さらに Augmedix では、Vertex AI Prompt Optimizer によって、プロンプトのバリエーションをすばやくテストできるため、より迅速な反復作業により短時間での最適化が可能になりました。Vertex AI Prompt Optimizer によらないプロンプトでは 20 秒かかるところを、最適化されたプロンプトは 6 秒で実行できます。
Augmedix の創業者でディレクター兼最高戦略責任者である Ian Shakil 氏は、こう述べています。「Google Cloud AI とのパートナーシップにより、当社は LLM の波にまっ先に乗ることができました。MedLM と Gemini によって、デジタル ヘルスケア分野で最先端のイノベーションを推進し、革新的な技術の進歩を実現できました。この協業によって Augmedix では、さらに出力の品質を高め、所要時間を短縮し、機能セットを増強できます。」
次のステップ
Vertex AI Prompt Optimizer の詳細についてご関心のある方は、Vertex AI Google Cloud コミュニティにご参加ください。経験を共有し、質問し、新しいプロジェクトで連携しましょう。次のリソースもご確認ください。
ドキュメント
GitHub のサンプル
Google for Developers ブログ投稿
Google Cloud コミュニティ Medium ブログ投稿
-Cloud AI Research プロダクト マネージャー George Lee
-デベロッパーリレーションズ エンジニア Ivan Nardini