データベース

Google Cloud のデータベースを使用して生成 AI のサクセスストーリーを書き進める Writer.com

2024年3月27日

Google Cloud Japan Team

※この投稿は米国時間 2024 年 3 月 19 日に、Google Cloud blog に投稿されたものの抄訳です。

編集者注: フルスタックの生成 AI プラットフォームである Writer では、需要の増加に伴い、データベースの容量と機能に対する要件が劇的に増えてきていました。Writer は、Google Cloud のデータベース サービスである AlloyDB、Bigtable、Datastream、Firestore、Memorystore を使用して、セキュリティ、柔軟性、管理のしやすさの向上を実現しました。それがスキルを持つ人材と時間を節約し、テクノロジーの最先端に立ち続けることにつながっています。

Writer は企業向けのフルスタックの生成 AI プラットフォームです。2020 年初頭の設立以来、お客様が組織全体の成長を加速し、生産性を向上させ、コンプライアンスを確保できるようにサポートしています。

Writer は、正確で、規定に準拠し、ブランドイメージに沿った高品質の出力を提供することで働き方を変革しています。Writer のプラットフォームは、Writer 独自の LLM、当社のモデルをお客様の内部データソースに接続するナレッジグラフ、お客様のルールを適用するための AI ガードレール、柔軟なアプリケーションレイヤ、堅牢な API と統合のエコシステムで構成されています。

Writer は Vanguard、Intuit、L'Oreal、Accenture、Spotify、Qualcomm といったさまざまな業界の大手企業に採用されており、モデルのトレーニングにお客様のデータを使用せず、SOC 2 Type II、HIPAA、PCI、GDPR を遵守しています。

Google Cloud を使い始めた理由

初期の頃は、Palmyra という大規模言語モデル（LLM）の完全なトレーニングパイプラインを構築し、当社の Software as a Service（SaaS）プラットフォームでそのモデルを使用できるようにして、マーケティングからプロダクト、サポートに至る固有のビジネス機能のユースケースを実現していました。

現在、Writer は 1 か月あたり 1 兆回を超える API 呼び出しを処理して、1 秒間に 90,000 ワードを生成しています。こうした状況と、昨今の生成 AI 市場の爆発的成長とが相まって、当社のビジネスは大きな転換を迫られました。とはいえ、まったく新しいサービスを構築するには、より大きなコンピューティングリソースと自動化が必要になります。これを実現し、早期の移行を最大限に成功させるには、データベースなどのバックエンドのニーズが完全に満たされるようにする必要がありました。最初のモデルでさえ、パラメータ数 1 億 2,800 万からスタートしていましたので、コンピューティングのニーズの大幅な増加に伴い、MySQL の管理に膨大な時間と労力が必要になっていました。もう一つの必須条件は、セキュリティのさらなる重視と、増大する顧客要件に対応できる柔軟性でした。また、これらすべての管理を容易にして、データベースと分析のために大所帯のチームを作らなくても済むようにする必要がありました。そうしたことにかかる時間と労力を、お客様に集中することに充てたかったからです。

Google Cloud データベースは、これらを実現して、専門要員を大幅に増やすことなく、データベースを安全に再構築してスケールできるようにしてくれました。

Writer にとって最適なデータベースファミリー

Google Cloud マネージドデータベースサービスを使用することで、お客様が Writer の使用時に作成して保存したデータを保存できるようになりました。それを可能にするために、当社の SaaS AI プラットフォームは AlloyDB for PostgreSQL、Memorystore、Bigtable を使用して、Google Kubernetes Engine（GKE）で実行される約 100 個のマイクロサービスをサポートしています。また、セマンティック検索機能を強化するために、AlloyDB AI のベクトルクエリ機能の導入も検討中です。

Google Cloud データベースには、暗号化や認証などのセキュリティ機能が組み込まれています。スケーリングと費用管理も簡単に行えるうえ、以前に使用していたクラウドサービスプロバイダとは異なり、GKE、BigQuery、Datastream for BigQuery などの他のクラウドサービスともシンプルかつ緊密に連携できます。このことは、Google の直感的なユーザーインターフェース、使いやすさ、クラウドプラットフォーム機能のリリースの速さと相まって、当社にとって最適であり、当社のテクノロジーに関する優先事項とも一致しています。

当社は常に、中核となるビジネス要件に重点を置いた小規模な技術チームを運営してきました。Google Cloud データベースを使用すると、非常に洗練された複雑なプラットフォームを安全に管理できます。技術人材を効果的に活用し、成果を効率的に拡大できる能力は、当社に非常に大きな競争上の優位性をもたらしています。また、最新の G2 Compute Engine GPU などの Google サービスと組み合わせることで、リアルタイムのワークロードを極めて高速に処理するスピードとパワーを得て、大量のコンピューティングを処理できています。もう一つの利点は、データを管轄区域内に留めておく必要がある国外のお客様にデータ所在地を提供できることです。

VM 上の MySQL から AlloyDB for PostgreSQL への移行も簡単で、手間がかかりませんでした。この移行が成功したことで、今後の移行のペースを決定できるようになり、また、移行するマイクロサービスを選択する際に、データベース間での移行の影響が最小限になるよう考慮できるようになりました。さらに、費用とパフォーマンスの管理が簡単になり、MySQL から AlloyDB に移行する際は内部ダッシュボードで使用量の変化を文字どおりリアルタイムに監視することができました。

Google Cloud で将来の筋書きを立てる

Google Cloud データベースは、当社の今後のビジネス目標もサポートしてくれるものと考えています。AlloyDB for PostgreSQL の全文検索機能は、当社のマイクロサービスコレクションの簡素化とパフォーマンスの向上に役立つでしょう。また、データ所在地を通常のプラットフォーム機能として提供することや、Memorystore と Bigtable の使用を最適化することで費用をさらに削減できる可能性にも期待しています。

Google は Writer の信頼できるパートナーであり、今後も Google Cloud と連携して企業向け生成 AI の変革とイノベーションをリードしていくことを楽しみにしています。