HighLevel が Firestore を使って AI マーケティング プラットフォームを構築した方法
Karan Agarwal
Director of Engineering - CRM, AI & Platform, HighLevel
※この投稿は米国時間 2024 年 12 月 7 日に、Google Cloud blog に投稿されたものの抄訳です。
HighLevel は、代理店向けに構築されたオールインワンのセールスおよびマーケティング プラットフォームです。当社は、CRM、マーケティング自動化、予約スケジュール、ファネル構築、メンバーシップ管理などのツールを使用して、企業が業務を効率化できるように支援しています。しかし、HighLevel を本当に際立たせているのは AI 搭載ソリューションに対する当社の取り組みです。これによりお客様はビジネスを自動化し、目覚ましい成果を達成できます。
当社は急速に成長している Software as a Service(SaaS)プラットフォームとして、不安定な書き込み負荷を処理できるデータベースを管理するという重大な課題に直面していました。当社のビジネスでは、データベースの書き込みが数分以内に数百 RPS(1 秒あたりのリクエスト数)から数千 RPS に急増することがよくあります。このような突然の急増により、以前のクラウドベースのドキュメント データベースではパフォーマンスの問題が発生していました。
以前のソリューションでは、専用のリソースをプロビジョニングする必要があり、次のような複数のボトルネックが発生していました。
-
遅いリリース サイクル: リリースの前に毎回リソースをプロビジョニングしていたため、アジリティと製品化までの時間に影響が出ていました。
-
スケーリングの制限: 高い書き込みスループットと多数のインデックスが原因で、DiskOps の制限と常に格闘していました。大規模なコレクションを複数のクラスタに分ける必要があるため、複雑な調整が必要となり、貴重な時間がエンジニアリングに費やされていました。
Firestore でサーバーレスを実現
これらの課題を克服するため、シームレスにスケールでき、要求の厳しい書き込み要件に対処できるデータベース ソリューションを探していました。
Firestore のサーバーレス アーキテクチャは、当初から有力な候補でした。しかし、当社の決断を決定付けたのは、ポイントインタイム リカバリとスケジュール バックアップの登場でした。これらの機能により、当初の懸念がなくなり、HighLevel のワークロードの大部分を Firestore に移行する自信を得ることができました。
Firestore に移行してから、次のように大きなメリットが得られました。
-
開発者の生産性向上: Firestore のシンプルさにより、開発者の生産性が 55% 向上したため、製品のイノベーションに注力できるようになりました。
-
スケーラビリティの向上: 手動での介入なしに 300 億を超えるドキュメントまでスケールし、最大 250,000 RPS の急増と 500 万件のリアルタイム クエリを伴うワークロードを処理できます。
-
信頼性の向上: Firestore は信頼性が非常に高く、ピーク負荷時でも一貫したパフォーマンスが確保されることが実証されています。
-
リアルタイムの機能: Firestore のリアルタイム同期機能により、複雑なソケット インフラストラクチャがなくてもリアルタイム ダッシュボードを実現できます。
Firestore が HighLevel の AI を強化
Firestore は、会話型 AI、コンテンツ AI、音声 AI など、AI によるサービスを実現するうえでも重要な役割を果たしています。これらのサービスはすべて、お客様のビジネスにオートパイロットを導入することを目的としています。
図 1: HighLevel の AI 機能
たとえば、会話型 AI では、検索拡張生成(RAG)アーキテクチャを使用しています。これには、顧客データソースのクロールとインデックス処理、エンベディングの生成に加え、それらをベクトル データベースとして機能する Firestore に保存することが含まれます。このアプローチにより、次のことが可能になりました。
-
生成 AI モデルのコンテキスト ウィンドウの制限を克服する
-
レイテンシと費用を削減する
-
回答の精度を高め、ハルシネーションを最小限に抑える
図 2: HighLevel の AI アーキテクチャ
得られた教訓と今後の道筋
図 3: Google Firestore フィールド インデックス データ
Firestore を活用した取り組みは目を見張るような経験であり、その過程で貴重な教訓を得られました。
たとえば、2023 年 12 月に、書き込みの秒間クエリ数(QPS)が高いコレクションにおいて断続的な障害が発生しました。これらのコレクションでは、最大 60 秒の書き込みレイテンシが発生し、完了前に期限切れになったためにオペレーションが失敗していました。Firestore チームのサポートを受けて根本原因を分析したところ、問題の原因は、増加を続けるフィールドのデフォルトの単一フィールド インデックスにあることがわかりました。これらのインデックスは、単一フィールドのクエリには役立ちますが、インデックスの特定のセクターで過剰な書き込みを生成していました。
根本原因がわかったため、当社のチームはそれらの未使用のインデックスを特定して除外しました。この最適化によって劇的に改善し、書き込みテール レイテンシが 60 秒からわずか 15 秒に短縮されました。
Firestore のおかげで、当社は迅速なスケーリング、開発者の生産性向上、革新的な AI 搭載ソリューションの提供を実現できました。今後も成長と進化を続けていくなかで、Firestore が当社の技術スタックの基盤であり続けると確信しています。これからも Firestore と Google Cloud を活用して AI イニシアチブを推進し、お客様に優れた価値を提供していきたいと考えています。
利用開始方法
組織内で Firestore を使用する方法の詳細についてご興味をお持ちの場合は、以下をおすすめします。
-
Next 2024 のブレイクアウト セッションを視聴し、Firestore の最新情報や、HighLevel が総所有コストを大幅に削減した方法などについて詳しくご確認ください。
Firestore の詳細を確認し、今すぐ無料トライアルをお試しください。
このプロジェクトはチームの取り組みによって実現しました。プラットフォーム データチーム、特に Pragnesh Bhavsar に感謝の意を表します。彼は、当社のデータ インフラストラクチャがこれほど大規模でも問題なく稼働するようチームを率いて、すばらしい仕事をしてくれました。また、重要な分析情報とガイダンスを提供してくれた Varun Vairavan と Kiran Raparti にも感謝します。Karan Agarwal が発信するその他の情報については、LinkedIn ページをフォローしてください。
-HighLevel、CRM / AI / プラットフォーム部門エンジニアリング担当ディレクター Karan Agarwal 氏