Confluent は Google Cloud の生成 AI にリアルタイム機能を提供

※この投稿は米国時間 2024 年 3 月 6 日に、Google Cloud blog に投稿されたものの抄訳です。

2023 年は生成 AI に関心が集まり、生成 AI が人間と共同でイノベーションを起こし、テキスト、コード、画像、音楽などの新しいコンテンツを作成できるという、AI の新たなカテゴリへの道をどのように切り開いているかが注目されました。大規模言語モデル（LLM）は膨大な量のデータでトレーニングおよび調整できることを考えると、生成 AI は有望であるだけでなく、非常に強力な機能です。

しかし、データの鮮度によっては、生成 AI モデルのすぐに使えるはずの機能と可能性が制限される場合があります。ユースケースでリアルタイムのコンテキストが必要になり、新しい情報にアクセスしたいなどの理由で、生成 AI モデルを他のシステムに拡張する必要が生じることもあります。その結果、多くの組織は、リアルタイム データアクセス、さまざまな形式の複数のソースからのデータの統合、モデルのトレーニングと活用にまつわる複雑さなどに関連する問題の解決策を模索しています。

Apache Kafka を基盤とする Confluent などのデータ ストリーミング プラットフォームは、最新のデータと情報を提供するため、このようなデータの課題を解決するのに役立ちます。Confluent を使用すると、企業は生成 AI のユースケースをサポートするために必要なデータを簡単に接続、処理、統合、拡張でき、非常に具体的でコンテキストに基づく問題をリアルタイムで解決できるようになります。

たとえば、カスタマー サービス チームは Confluent を使用して、顧客のリクエストとレスポンスを Google Cloud テクノロジーで構築された chatbot にリアルタイムでストリーミングできます。chatbot は AI を活用して、レスポンスに使用された情報にアクセスし、天気情報、ユーザー属性、購入履歴などのリアルタイム コンテキストを考慮しながら、よりパーソナライズされた関連性の高いレコメンデーションを作成できます。

パーソナライズの改善は、企業がより優れたカスタマー エクスペリエンスを提供するためにリアルタイム データと生成 AI を使用することで得られるメリットの一例にすぎません。全体としては、より精度の高いレコメンデーションで売上を伸ばし、満足度の高いカスタマー エクスペリエンスで顧客の離脱を減らすことができ、さらには AI chatbot の助けを借りてより多くのサポートタスクを自動化してコストを削減することもできます。

データ移動のための中枢神経系の構築

長年にわたる研究と製品開発を通じて、Google は AI 分野のリーダーとして認められるようになりました。Google の LLM はかねてより、顧客やパートナーが新しいイノベーションの構築に活用できる、豊富な生成 AI 機能を備えた強固な基盤を提供しています。

現在、Confluent は、さまざまなソースからの構造化データと非構造化データを Google Cloud に直接統合できるようにすることで、これらのモデルをさらに使いやすくしています。コネクタおよびクライアントを使用すると、Confluent の信頼できるリアルタイム データを Google Cloud AI プロダクトやサービスに大規模にストリーミングできます。

上の図は、生成 AI ワークフローで使用できるリアルタイム データをストリーミングするために Confluent を使用する場合の、一般的なアーキテクチャ パターンを示しています。

• ナレッジ ワークフロー: Confluent は、内部および外部のデータシステムにあるさまざまなソースからデータを収集し、特定の形式に前処理して、適切な場所に保存します。これをナレッジベースとして使用し、生成 AI 向けのコンテキストを構築できます。
• 推論ワークフロー: Confluent は、テキスト、音声、会話など、人間のユーザーとマシン間で生成 AI を活用してインタラクションを作成する際に利用できるシステムやツールにデータをストリーミングします。
• 中枢神経系: Confluent はプロセスとサービス間のデータ交換をシームレスにオーケストレーションし、イベントをデータ ストリームとして抽象化して処理し、モデルやニューラル ネットワークに直接接続します。ストリーム処理を使用すると、さまざまなマシン インターフェースを介して人間とのコミュニケーションが可能になります。

これがどのように実現されるかを示すために、Confluent は生成 AI によってパーソナライズされるショッピング アシスタントを構築しました。このアシスタントには、Confluent の機能と Google Cloud の生成 AI が活用されています。このアプリケーション フローでは、顧客は、Vertex AI に接続してリアルタイムで対話する AI chatbot と会話できます。以下に会話の例を示します。

バックグラウンドでは、Confluent はリクエストを受け取り、Vertex AI に送信してレスポンスを返しています。Confluent が基盤とする Apache Kafka は、企業がデータを迅速に処理し、生成 AI レスポンスを返すためのフレームワークを提供します。これにより、より豊かなカスタマー エクスペリエンスを提供できるようになり、顧客は商品の在庫状況や購入場所に関する正確な詳細を受け取ることができます。

Confluent は、次のようなさまざまな方法で生成 AI chatbot を改善します。

• 生成 AI モデルの統合ビューを作成する。Confluent は、クロスクラウドやオンプレミスを含む複数のソースからのデータを組み合わせて、生成 AI モデルの統合ビューを作成できます。このビューは、データの保存場所に左右されることなく、ユーザーに応じてターゲットを絞ったコンテンツを生成するなど、さまざまに応用できます。
• 生成 AI モデルのトレーニングとデプロイにかかるコストを削減する。Confluent では、生成 AI モデルによって処理する必要があるデータの量を軽減できるため、トレーニングとデプロイのコスト削減につながります。
• 生成 AI モデルの精度とパフォーマンスを高める。Confluent は、生成 AI モデルにリアルタイム アクセスとさまざまなソースからのデータを処理する機能を提供することで、生成 AI モデルの精度とパフォーマンスを向上させます。
• 生成 AI モデルを誰もが簡単に利用できるようにする。Confluent は使いやすく管理も容易なため、開発者や組織はリアルタイム情報を必要とする生成 AI アプリケーションを簡単に構築およびデプロイできます。

これらの利点に加えて、Confluent には Google Cloud AI サービスへのリアルタイム データ移動を可能にするさまざまな方法があります。これにより、組織はテキスト、音声、画像、動画を使用してより洗練された生成 AI エクスペリエンスを構築できます。たとえば、最新の顧客データを Vertex AI Search and Conversation にストリーミングすると、チームはそのデータを活用して、よりパーソナライズされた関連性の高い chatbot レスポンスを提供したり、顧客の好みに基づいてパーソナライズされるレコメンデーションを改善したりできるようになります。

Confluent と Google Cloud: より優れた生成 AI に向けた連携

総合的に見て、Confluent の導入により組織は Google Cloud の生成 AI をさらに活用して、必要なデータがあるかを気にすることなく、生成 AI アプリケーションをより迅速に構築、デプロイ、拡張できるようになります。

Confluent は、リアルタイムのデータ ストリーミング、データ統合、スケーラビリティ、信頼性を、業界をリードする単一のプラットフォームで提供します。その結果、あらゆる業界の組織が生成 AI を活用して、より優れたエクスペリエンスを提供したり、顧客の問題を解決したりできるようになります。また、Confluent は最近、組織によるリアルタイム AI アプリケーション開発を加速するために Google 生成 AI のパートナーシップを活用した Data Streaming for AI（AI のためのデータ ストリーミング）という取り組みを立ち上げました。これはほんの始まりにすぎません。Confluent は信頼できる関連性の高いデータを瞬時に提供することで、企業が AI のリアルタイム需要に応えられるよう、最高のデータ ストリーミング イノベーションの提供に引き続き取り組んでいます。

Google Cloud のオープンで革新的な生成 AI のパートナー エコシステムについて、詳細をご覧ください。Confluent の活用を始めるには、Data Streaming Startup Challenge に参加して、今すぐ Google Cloud Marketplace で Confluent Cloud をお試しください。

-Google Cloud、AI / ML CoE パートナー エンジニアリング部門リード ソリューション コンサルタント Merlin Yamssi

-Confluent、シニア ソリューション エンジニア Dustin Shammo 氏