生成 AI ソリューションの設計: これまでに得られた重要な教訓

※この投稿は米国時間 2024 年 7 月 31 日に、Google Cloud blog に投稿されたものの抄訳です。

生成 AI は、私たちのテクノロジーとの関わり方を根本から変えつつあります。Google Cloud ではこれまで、応用 AI エンジニアリング チームがマーケティング向け生成 AI、カスタマー エクスペリエンスのモダナイゼーション、Open Data QnA（NL2SQL）などの生成 AI ソリューションの設計と開発に取り組み、その基礎を築いてきました。このプロセスを通して獲得した貴重な洞察は、他の企業がこの最先端技術を首尾よく責任を持って設計、実装するうえで役立つと Google は考えています。このブログ投稿では、次の 3 つの包括的な設計原則と、有益な教訓をご紹介します。

• スムーズなエクスペリエンスを提供する: 使用上の障壁を最小限に抑える、直感的で合理化されたインタラクションを設計します。

• 透明性によって信頼を築く: ユーザー ジャーニーにおける AI の役割を説明します。システムの機能や制限について率直に伝えます。

• 目標に優先順位を付ける: エンゲージメントを強化するのか、コンバージョン率を高めるのか、あるいはまったく別の何かを目指すのかなど、目標を決めます。

スムーズなエクスペリエンスを提供する

AI によって実行されるアクション、AI によって生成されるコンテンツを示す

ユーザー エクスペリエンスにおける AI の役割を率直に伝えることは、信頼を築く源となり、ユーザーに力を与えます。透明性は、現実的な期待を設定し、混乱や誤解を防ぎます。AI が使われていることが明確に示されていれば、ユーザーはシステムを正確に理解し、最適な使い方を見つけることができます。

推奨事項:

• 明確な視覚的手がかりを実装する。アイコン、色分け、テキストラベルなどを使用して、AI によって生成されたコンテンツやアクションを区別します。

• 段階的な開示メカニズムを提供する。ある特定の出力がどのように生成されたかについての詳細情報をユーザーが要求できるようにします。

マーケティング向け生成 AI のコード例では、コンテンツが AI によって生成されていることを示すアイコンや、上の図のような、生成された画像用の SynthID ウォーターマークを示すアイコンを提供しています。

ユーザーを導くためのプロンプト例を提供する

何かをゼロから始めるのは不安なものです。例はユーザーの出発点となり、創造性を刺激し、AI の能力を示してくれます。

推奨事項:

• 多様な例を提供する。さまざまな経験レベルに合わせてカスタマイズされた例をタスク別に提供します。

• 例を定期的に更新する。AI モデルの進化する能力を示すために、例を更新します。

実用的な AI エクスペリエンスを設計する

企業は AI に、効率化の促進や目に見える改善を期待しています。実用的な結果は、費用対効果を高め、学習ループを加速させます。

推奨事項:

AI 生成のインサイトに基づいて可能なアクションが一目でわかるようにする。既存のワークフローとのスムーズな統合に焦点を当てます。

ユーザーがアクションを選択できるようにすることも、フィードバックを可能にする方法の一つです。

透明性によって信頼を築く

AI 出力の背後にある理由を説明する

生成 AI ツールがどのようにしてその結果を導き出したかをユーザーが理解できる必要があります。これにより、信頼が育まれ、プロセスがより共同作業的なものとなります。

推奨事項:

• 主な要因を強調する。AI の出力に影響を与えた主な要因を強調します。

• 可視化を使用する。AI の意思決定を可視化して表現します。

Open Data QnA（自然言語を SQL に変換）の例では、ユーザーが結果を検証できるように、自然言語クエリがどのように SQL に変換されたかを説明し、それを可視化しています。

データソースを含める

情報源を引用すると、信頼性が向上し、ユーザーが情報の出所を辿ることができます。これは誤情報の回避や事実確認に不可欠です。

推奨事項:

• 引用を埋め込む。生成されたコンテンツ内に引用を直接埋め込みます。

• リストを提供する。参照された情報源のリストを提供します。

• 特定の文を強調する。AI による回答の根拠となった、情報源内の特定の文を強調表示します。

このカスタマー エクスペリエンスのモダナイゼーションの例では、社内従業員向けのプロアクティブ検索エージェントが、情報源を引用することにより、要約情報の長さを適切に保ちながら、ユーザーがさらに詳しく調査できるようにしています。

パーソナライズを慎重に利用する

パーソナライズとは、個々のユーザーに合わせてエクスペリエンスをカスタマイズすることです。パーソナライズを適切に行うと、ユーザーが関連性の高い独自のオプションを見つけるのに役立ちます。ただし、探索や倫理的配慮とのバランスをとることが重要です。特に今は、Gemini 1.5 のコンテキスト ウィンドウを使用することで、より高度なパーソナライズを実現できます。

推奨事項:

• 責任を持ってデータを使用する。組織内の専門家や関連チームと連携し、現行および導入予定の規制に沿ってデータが適切に処理されていることを確認します。これにより、ユーザーのプライバシーとコントロールを確保できます。

• バランスをとる。パーソナライズと偶然の発見とのバランスをとります。

• 明確なフィードバックを引き出す。これによりパーソナライズを徐々に改良し、「共同作業をしている」と感じてもらえるようにします。

実施するアクションについて説明し、新しい生成機能を段階的に追加していくことによって、ユーザーはパーソナライズされたテクノロジーを調整された形で体験できます。

目標に優先順位を付ける

意図と探索のバランスをとる

優れた生成 AI エクスペリエンスでは、系統立てられたタスクの遂行と自由な探索とのバランスがとれています。以下のような基準で、意図重視と自由閲覧型のいずれかの設計を選択します。

• 意図重視: ユーザーに明確な目標がある場合（例: 「新製品に関するマーケティング メールを書く」、「このニュース記事を要約する」）、その意図を表現するための直接的な経路を提供します。使い慣れたパターン（検索バーなど）に会話機能を追加して、入力を効率化します。

• 自由閲覧型: ユーザーの目標が明確でない場合（例: 「誕生日カードのアイデアを得る」、「クリエイティブ プロジェクトのコンセプトのブレインストーミングを手伝ってほしい」）、新しい情報の発見を中心にエクスペリエンスを構築します。プロンプトや提案を示し、結果を繰り返し改善できるようにします。

推奨事項:

• 意図ベースと自由閲覧ベースの両方のモードを組み込む。こうすると、ユーザーは当面の目標に最適な方法でツールを使用できます。

カスタマー エクスペリエンスのモダナイゼーションのコードサンプルでは、拡張して対話モードに切り替えられる生成検索エクスペリエンスが実装されています。これにより、ユーザーは追加の質問をしたりして、テキストやキーワードだけに留まらない豊富なインタラクションを体験できます。

AI と連携してユーザー エクスペリエンスを向上させる

ユーザーからのフィードバックは、生成 AI を改善するための原動力です。AI の動作を誘導するための仕組みを用意することで、ユーザーに影響力を提供しつつ、モデルの改良に不可欠なデータを収集することができます。また、ユーザー フィードバックを求めるケースを事前に示すことで、企業が潜在的なエラーに対する責任を持ち、エラーを修正する意思があることをユーザーに伝えることができます。想定されるエラーや不具合を定義するとともに、エラー情報を説明的なものにし、ユーザーがフィードバックを提供できるようにします。それと同時に、データの収集と処理に関する透明性も確保します。

推奨事項:

• 直感的なフィードバック メカニズムを実装する: 高評価 / 低評価、星による評価、短いコメントなどにより、ユーザーが簡単にフィードバックを提供できるようにします。

• フィードバックを AI の出力に直接結び付ける: ユーザーが特定の結果のコンテキストでフィードバックを提供できるようにします。

• フィードバックによって AI の回答がどのように改善したかをユーザーに示す: ユーザーの貢献がどのように影響したかを示すことで、今後のインタラクションでの継続的な関与を促します。

• データ収集に関する透明性: ユーザーからのフィードバックがどのように収集、保存され、AI モデルの改善に使用されるかを明確に説明します。ユーザーのプライバシーを尊重し、可能な限り選択肢を提供します。

• エラー処理: エラーが発生する可能性があることを事前に認めます。AI がタスクを完了できない場合に問題を報告する手段をユーザーに提供し、別の解決策やリソースを提案します。

まとめ

生成 AI には計り知れない可能性があります。しかし、生成 AI の機能は進化の途上にあることから、その成功は考え抜かれた設計にかかっています。透明性、ユーザーの自主性、説明可能性、実用性、パーソナライズ、継続的なフィードバック ループを優先することで、ユーザーと企業の双方にとって真に有益な、信頼性の高い強力な生成 AI ソリューションを構築し、段階的に更新し続けることができます。

詳細については、Google の People + AI Research のガイドラインと責任ある AI のウェブサイトをご覧ください。コードサンプルの詳細については、Google Cloud で生成 AI アプリの構築を始める際に利用できるコードサンプルをご覧ください。

ー 応用 AI エンジニアリング、ソリューション コンサルタント兼 UX デザイナー Khulan Davaajav

ー 応用 AI エンジニアリング、テクニカル ソリューション マネージャー Hussain Chinoy