The Blueprint: Voicify が AI を活用した注文体験を顧客にとって満足度の高いものに

※この投稿は米国時間 2026 年 7 月 24 日に、Google Cloud blog に投稿されたものの抄訳です。

「The Blueprint」へようこそ。今回始まったこの特集では、最新の AI とクラウド テクノロジーを使用して業界共通の課題や個別の課題に対処する Google Cloud のお客様の取り組みをご紹介します。仕事でイノベーションを目指す皆さまの着想の一助になれば幸いです。

2018 年に設立された Voicify は、すべての通話をシームレスで魅力的な体験に変えることを目標として、従来の電話の概念を一変させています。

課題:

2018 年に Voicify を創業したとき、当社のビジョンは、組織が、電話やチャットなどのあらゆるチャネルで、信頼性が高く、実用的で、技術的な基盤に基づく音声駆動型アシスタントを構築できるよう支援することでした。しかし、パンデミックによってすべてが変わりました。

当社は、主に飲食業界と医療業界の電話のユースケースに焦点を移しました。これらの業界では当時、通話量と人員配置が大きな課題となっていました。飲食店では、電話の最大 20% に応答できず、その結果注文を失う可能性がありました。また、医療機関では、予約情報を診療管理システムに統合する際に、情報の精度を 100% 維持しながら多くの通話に対応するのに苦労していました。その際、専門的な目的別 AI アシスタントが、企業が優れたサービスを大規模に維持するための鍵であることに気づきました。

成功を収めるには、4 つの主要な課題を克服する必要がありました。

• トランザクションの精度: 音声アシスタントは、POS システムや診療管理システムに対する複雑な顧客リクエストを 100% の精度で推論する必要がありました。

• トラフィックの急増への対応: 飲食店や医療機関では（極端な）トラフィックの急増がよく見られますが、費用を抑え、カスタマー サービスを維持するには、LLM の使用量を正確にプロビジョニングする必要があります。

• レイテンシ: アシスタントの応答が遅れると、顧客が電話を切ってしまう可能性があります。ユーザーが音声またはテキストのリクエストを送信してから、AI モデルが最初の出力を生成するまでの遅延を最小限に抑え、最初のトークンまでの時間を極めて短くする必要がありました。

• セキュリティとコンプライアンス: 2018 年の創業以来、当社は HIPAA、SOC2、ISO27001、PCI に準拠し、エンタープライズ グレードのセキュリティを確保しています。データの完全性とセキュリティを保護するために、可能な限りの安全保護対策を採用したアーキテクチャとインフラストラクチャが必要でした。

ソリューション:

当社の会話型オーケストレーション プラットフォームは、飲食店の注文を送信する前に、POS システムと照合して構築および検証し、正確性を確保します。そのプラットフォームの内部では、Gemini Enterprise Agent Platform を介して提供される Gemini Flash が、レイテンシを大幅に短縮し、ユーザーの待ち時間を最小限に抑え、ユーザーが電話を切るのを防ぎます。それにより、以前に使用していた他の LLM と比較して、約 25%～30% の費用削減と、信頼性向上も実現しました。

ビジネスの成長、通話量の増加、そしてトラフィックの急増に対応するために、Google AI Studio から Vertex AI（現在は Gemini Enterprise）に切り替えました。後者が提供するエンタープライズ向けの保証は、医療機関のお客様のセキュリティとコンプライアンスだけでなく、スケーリングにも必要でした。Gemini Enterprise Agent Platform の特定の機能により、サービスの中断や、応答できない状況が発生することなく、大量の通話に対応できます。

これらのエンタープライズ グレードのサービスは、AI Studio よりも費用がかかる可能性がありますが、信頼できる稼働時間を確保するうえで価値は十分にあります。また、従量課金制のプレミアム機能により、スケーリングがはるかに簡単になりました。たとえば、感謝祭の前日に過去最高の使用量に対応するために、Vertex AI でプロビジョンド スループットと従量課金制のプレミアム機能を組み合わせて使用したところ、レート制限の問題は発生しませんでした。

アーキテクチャ:

結果:

Gemini により、コンテキストの取得とメニューの作成を行う社内プログラマティック ツールの負担が軽減されました。Gemini を使用することで、レイテンシが短縮され、信頼性が向上するなど、パフォーマンスと信頼性が大幅に向上しました。また、Gemini を活用したアシスタントの安定性が向上したことで、お客様のオンボーディングがはるかに効率的になりました。飲食店が POS システムにアクセスできるようになってからテストの準備が整うまでの期間は、以前は 1～2 週間でしたが、現在はわずか 1～2 日になりました。

スケーリングとエンタープライズ グレードのサービスを実現する Google のソリューションにより、重要な指標である最初のトークンまでの時間を最適化し、お客様の待ち時間を最小限に抑えることができました。Vertex AI のプロビジョンド スループットと従量課金制の機能を使用することで、過去最高の使用量となった期間でも、100% の稼働率を確保し、応答できない状況やレート制限の問題を回避できました。今では、飲食店のトラフィックの急増に簡単に対応できるようになりました。

技術面では、会話型の注文取得から、会話や POS アクティビティのコンテキストを使用したよりプロアクティブな支援へと移行することを見込んでいます。たとえば、金曜日の夜に、いつものようにお気に入りの日本料理店に注文する際には、近い将来、Voicify の音声アシスタントがプロアクティブに注文してくれるようになるかもしれません。

詳細:

当社が注力している業界には、バックエンド内で時間をかけて解決しなければならない独自の課題がいくつかあります。

Voicify ソリューションの中核となるコンポーネントは、音声オーケストレーション プラットフォームです。これは、電話 AI スタック全体を管理し、エンタープライズ グレードのスケーラビリティとセキュリティを実現するように設計されています。また、ユーザーのニーズに応じて業界ソリューションが呼び出されるノードでもあります。当社の音声オーケストレーション プラットフォームは、お客様の近くに配置され、Gemini や音声アシスタントのさまざまなコンポーネントなどのバックエンド サービスを調整します。このプラットフォームは、純粋な生成ではなく、プログラム上の要素を含む、自動音声認識、テキスト読み上げ、テキスト生成などの機能を管理するために使用します。

アーキテクチャについて当社が下した独自の決定の一つは、複雑で膨大な飲食店のメニューを管理する方法でした。メニュー全体を 1 つのプロンプトに含めることは避け、最初のプロンプトには特定の情報のみを含め、会話が進むにつれて詳細情報を収集することにしました。これにより、応答時間が短縮され、特定のやり取りで各メニューの関連部分のみに焦点を当てることで、大規模な注文の複雑さを管理できます。

また、当社は創業当初から、特に医療分野において、セキュリティとコンプライアンスに関する企業のお客様の高い基準を満たすようにアーキテクチャを設計しました。エンタープライズ グレードのスケーラビリティも保証しています。アーキテクチャの面でも、データの完全性と安全性を確保するために、あらゆる安全保護対策を講じています。最後に、可能な限り高いレベルの可用性を実現するための戦略の一環として、当社のプラットフォームはマルチクラウド環境をサポートするように設計されています。

- Voicify、CTO / 共同創業者、Nick Laidlaw 氏

- Voicify、エンジニアリング担当ディレクター、Aadu Pirn 氏