Memorystore に移行した Instacart がレイテンシと費用の 23% 削減を達成

Google Cloud Japan Team
※この投稿は米国時間 2023 年 8 月 15 日に、Google Cloud blog に投稿されたものの抄訳です。
数百万点におよぶ商品を取りそろえるカタログや、米国やカナダの 14,000 以上の都市にわたる 10 万店以上のストアに商品を提供する 1,200 以上の小売バナー パートナーを通じてサービスを提供する Instacart は、世界最大規模の食料品テクノロジー サービスであり、Instacart のお客様はその利便性を愛し、信頼しています。
Instacart の e コマース エンジニアリング部門では、Dennis Turko 氏が率いるストアフロント プロ基盤チームが、ホワイトラベルのデジタル店舗向け商品の運営を担当しています。チームは、日々、国内の大手小売業者や地元の人気店といった多数の有名小売店のオンライン食料品購入エクスペリエンスを支えるプラットフォームの、信頼性、パフォーマンス、スケーラビリティ、クラウド費用管理の向上に努めています。このプラットフォームでは分散キャッシュとして Memcached を活用し、データ取得の高速化やデータベースの負荷軽減を実現しています。これは Instacart のエンタープライズ アーキテクチャには欠かせないコンポーネントで、多様なトレンド、プロモーション、休暇により変動するトラフィックをシームレスに処理するためのシステムの性能に寄与しています。
基盤チームは、最近、これまで使用していた Compute Engine 上の自社管理型 Memcached から、Google Cloud のフルマネージド Memorystore for Memcached サービスに移行しました。この移行により、Instacart のチームは以下のメリットを獲得しました。
Google Cloud の Memcached のための支出が 23% 減少
エンジニアリングによるメンテナンス時間を年間で 80~100 時間削減
キャッシュ タイムアウトや一時的な読み取りエラーが 80~90% 減少
p95 レイテンシが 23% 改善し、API のパフォーマンスが向上
コンプライアンスのプロセスを簡略化して、エンジニアリングのトイルを削減
Instacart のこれまでの DIY アーキテクチャ
Memorystore に切り替える以前、Turko 氏とそのチームは Compute Engine 上で Memcached クラスタを管理しており、このホストされたキャッシング インフラストラクチャの次のようなライフサイクルすべてを担当していました。
Terraform(Infrastructure as Code)や Ansible(構成管理)を使用して Compute Engine VM をプロビジョニング、モニタリング、管理
Memcached のインストールと構成
最適化の実施とパフォーマンスの調整
VM と Memcached 全体のコンプライアンス、パッチ適用、データ セキュリティの実現
小売業者ごとに独立したキャッシュ インスタンスを維持するという Instacart の要件もあり、全体的な管理プロセスは極めて複雑でした。
他の多くのエンジニアリング チームと同様に、Instacart のチームはさまざまなソフトウェア スタックを扱っており、Memcached も巨大で複雑なアーキテクチャのコンポーネントの一つです。チームは Memcached に対する専門知識を有しておらず、キャッシュの機能向上に割ける時間も限られていました。特に、以下のエリアでの自社管理が課題であると感じていました。
トラフィックが増大する期間のキャッシュのスケールアップと、VM にパッチが適用されコンプライアンスが保たれた状態を維持すること。これは、極めて手作業に依存しており、間違いが発生しやすいものでした。
最適ではない Memcached の構成とパフォーマンス。これは、専門知識と最適化のための帯域幅が不足していたことによるものです。
自動検出なしの接続性。これにより、構成の複雑さと、メンテナンスによるダウンタイムが生じていました。
こうした課題に対処するために、チームは Google Cloud のフルマネージド Memorystore for Memcached サービスの検討を開始し、Google Cloud に運用上の負担を任せたいと考えました。
チームは 2022 年の最終週を使って Memorystore のソリューションをベンチマークし、本番環境への移行を計画しました。本番環境への移行は、2023 年 1 月上旬から開始し、2 週間かけて行われました。すべての小売業者の環境はダウンタイムなしで、営業時間中に、Google の Terraform プロバイダの優れたサポートにより円滑に進められ、Infrastructure as Code と Auto Discovery エンドポイントが実現しました。
Instacart の新しい Memorystore アーキテクチャ
Memorystore への移行による費用対効果は、Instacart のチームの想像を超えるものでした。パッチ適用、構成、Compute Engine VM の管理という負担を Google に移行できただけでなく、チームは驚異的な信頼性とパフォーマンスの向上も目の当たりにしました。自社管理の Memcached ノードは、ノードあたり 10,000 のアクティブな接続を超えるとパフォーマンスが悪化していましたが、Google の Memorystore インスタンスはより大量のトラフィックをサポートできるように最適化されており、ノードあたり 65,000 の接続に十分対処できます。
Memorystore の Memcached Auto-Discovery サービスは、クライアントによるスケーリング中のノード IP アドレスの追加や削除にも自動で対応しており、チームは最小限のコード変更でアプリケーション クライアントを簡素化でき、スケーリング オペレーション後の再構成も必要ありません。アプリケーションという観点で見ると、スケーリング中にシームレスにノードを追加、削除できるということです。
スケーリング オペレーション自体は、簡単な Terraform の pull リクエストを使用するだけで数分で完了します。効率化された水平方向のスケーラビリティは、エンジニアリングにかかる時間を削減し、人的エラーが起こる可能性を減らすというメリットをもたらすだけでなく、季節性のトラフィック パターンに応じて各小売業者の Memcached インスタンスのサイズを適正化することで、より詳細な費用管理の機会も生み出します。サイズの適正化に加え、各 Memorystore ノードが提供するスループットが増えたという事実も相まって、Instacart はエンタープライズ Memcached のクラウドの請求を 23% 削減することが可能となりました。
Memorystore のインスタンスは追加の構成を必要としないため、チームは Memcached 専用の構成管理コードベースの大半を廃止することができ、組織のあらゆるレベルで使用していた運用指示書の多くを簡素化できました。「Memorystore に切り替えることで得られるメリットの全体像をもっと早くに知っていれば、エンジニアリングにかかる時間をさらに削減でき、e コマース プラットフォームの他の部分でも価値の創造が進んでいたでしょう」と Dennis Turko 氏は語っています。
また、Memorystore は Memcached キャッシュの信頼性を大きく向上させています。全体で見ると、キャッシュのタイムアウトの割合は、驚くことに 80~90% 減少しています。


おそらくキャッシュについて最も重要な点であるのは、Memorystore への移行後にレイテンシが著しく改善したことです。Instacart は元々、人気のオープンソース ツールである memtier でパフォーマンスのベンチマーキングをした後に、本番環境ワークロードを Memorystore へ移行しようと決めていました。チームはカスタム入力を使用して本番環境トラフィックを再現し、自社管理のクラスタよりもスループットが高く、レイテンシが低い Memorystore のパフォーマンスの高さを確認しました。本番環境トラフィックを Memorystore にカットオーバーした後、Instacart はベンチマークで確認していたパフォーマンス ゲインを上回る改善が見られることを発見しました。


キャッシュの最適化は極めて重要であるため、こうしたコマンドのレイテンシの改善が、e コマース商品を管理する API エンドポイントのサブセットの平均パフォーマンスを全体で最大 18.5% 改善するに至っています。これは、Time to Interactive の削減やユーザー エクスペリエンスの向上にもつながっています。


最後に、エンジニアリング チームにとってこの移行は、コンプライアンス プロセスを効率化する機会にもなりました。Memorystore により、Instacart のエンジニアは内部のコンプライアンス要件に合致した自動メンテナンスの時間枠ポリシーを活用することができ、パッチ適用のための標準作業手順書(SOP)の簡素化が実現しました。こうして自社管理クラスタの厳しい要件が緩和されたことで、エンジニアにはメリットがもたらされ、キャッシュ管理のトイルがさらに削減され、Instacart は他の価値を生み出す作業に集中できるようになりました。
Memorystore によって実現したより迅速な購入手続き
シームレスな移行や、大きな影響をおよぼした数々のメリットを実感した今、Instacart のチームは Google Cloud を使用する他の組織にも Memorystore を心からおすすめしています。メンテナンス時間の削減、運用手順の簡素化、より詳細な費用管理により、Instacart は e コマースのキャッシュ インフラストラクチャという面で待ちに待った安心感を得ることができるようになりました。つまり、チームは新たなインフラストラクチャの課題に自由に取り組むことも、ご褒美の休暇を取ることも可能になったということです。
Memorystore について詳しくは、以下をご確認ください。
Memorystore Memcached と Memorystore Redis のプロダクト ページをご確認ください。
確約利用割引(CUD)で Memorystore の費用を最大 40% 削減する方法をご確認ください。
OpenX が Memorystore を使用して「パフォーマンスの向上、応答時間の削減、全体的な費用の最適化」を実現した方法をご覧ください。
- Instacart、スタッフ ソフトウェア エンジニア Dennis Turko 氏
- プロダクト マネージャー Kyle Meggs

