Vertex AI で AI サポートを生成するためのガイド

※この投稿は米国時間 2023 年 3 月 30 日に、Google Cloud blog に投稿されたものの抄訳です。

当初は、わかりやすいダンスの動画でこのブログの内容をご紹介することを提案しましたが、この提案は却下されたので、私同様に皆様もがっかりしていると思います。しかし、喜びのあまり踊るかどうかは別として、Vertex AI でサポートされているジェレネーティブ AI には目を見張るものがあります。

Vertex AI は、2021 年にリリースされました。その目的は、特徴量エンジニアリングからトレーニングのモデル化や低レイテンシの推論まで、ML モデルの開発とデプロイに要する時間を短縮することにあります。そのすべての作業は、企業のガバナンスとモニタリングの下で進めます。そのリリース以来、Wayfair、Vodafone、Twitter、CNA をはじめとするお客様が Vertex AI を使用してそれぞれの ML プロジェクトを迅速化してきました。また、Google は多数の新機能を公開してきました。

しかし、Google はそれに満足しているわけではありませんでした。最近、Vertex AI はきわめて大規模な更新を受けています。Vertex AI でジェレネーティブ AI をサポートしたことで、数々の生成モデルを活用するための簡潔な方法が実現しました。この方法により、Google のエンドツーエンドの ML プラットフォームに直接構築したジェレネーティブ AI の能力をすべて引き出すことができるようになりました。

Vertex AI でのジェレネーティブ AI のサポート

過去数か月で、インテリジェントな chatbot と本当の人間のように振る舞うデジタル アバターによって、一般ユーザー向けのジェレネーティブ AI が大きな注目を集めています。このテクノロジーの可能性が認識されると、それがあらゆるデベロッパー、ビジネス、行政機関で使用されるようになります。これまで、ジェレネーティブ AI を利用して、ビジネスのユースケースで使用する基盤モデルをカスタマイズすることは困難でした。このような大規模なモデルを本番環境で管理するには、高度なツールキット、大量のデータ、専門的なスキルのほか、何よりも時間が必要であり、実現が困難だったからです。

Vertex AI でジェレネーティブ AI をサポートしたことにより、デベロッパーとデータ サイエンティストが簡潔なユーザー インターフェースから基盤モデルにアクセスし、それを容易にカスタマイズしてデプロイできるようになりました。Google では、各種のツール、自動化したワークフロー、着手機会を豊富に用意しています。デプロイした基盤モデルは、Vertex AI が提供するエンドツーエンドの MLOps 機能とフルマネージドの AI インフラストラクチャを使用して、本番環境でスケーリング、管理、統御できます。

最近、Vertex AI には、新たな機能バケットとして Model Garden と Generative AI Studio の 2 つが追加されています。このブログでは、この 2 つの機能を詳しく検討し、それで何を実現できるかを考えます。

Model Garden: この機能は、用意されている多彩なモデルから適切なモデルを発見し、使用します。

Model Garden は、Google 独自の基盤モデルの検索、発見、操作を 1 つの環境で実現します。今後は、数百のオープンソースとサードパーティのモデルに対しても、そのような処理が可能になります。これからは、ユーザーがアクセスできるモデルはテキストモデルにとどまらなくなります。構想、検討、コードの生成、コードの完成にわたり、Google からマルチモーダル モデルにアクセスして、次世代アプリケーションを構築できるようになります。Google は、AI スタックのあらゆる階層に選択肢を提供することに取り組んでいます。AI パートナーによる Google エコシステムのモデルと、オープンソース パートナーのモデルを、いずれも Model Garden で扱おうとしている理由はこの点にあります。さまざまなタイプとサイズのモデルが 1 か所に多数用意されているので、Google のお客様は、それぞれのビジネスニーズに最適なリソースを使用できる柔軟性を得ることができます。

Model Garden では、さまざまなワークフローを開始できます。たとえば、モデルを直接 API として使用する、Generative AI Studio でモデルを調整する、Vertex AI でデータ サイエンスのノートブックにモデルを直接デプロイするといった作業ができます。

Generative AI Studio: 基盤モデルを容易に調整してデプロイできる機能です。

Generative AI Studio は Vertex AI でのマネージド環境です。デベロッパーとデータ サイエンティストは、ここで基盤モデルを操作、調整、デプロイできます。Generative AI Studio には各種の機能が豊富に用意されています。たとえば、チャット インターフェース、プロンプトのデザインと調整の機能、モデルの重みを微調整する機能があります。Generative AI Studio では、新たに調整したモデルをアプリケーションに直接実装することや、Vertex AI の ML プラットフォーム上で本番環境にモデルをデプロイすることなどができます。これらのツールはいずれも、アプリケーション デベロッパーとデータ サイエンティストによる AI の構築に効果的です。その結果、次世代アプリケーションを本番環境へ短期間で確実に導入できます。

Vertex AI で基盤モデルを操作するための 5 つの方法

1. API としての基盤モデルの使用: Google の基盤モデルは API として使用できるようになっています。たとえば、テキスト、ダイアログ、コードの生成と完成や、画像の生成、エンベディングの API として機能できます。Vertex AI のマネージド エンドポイントでは、他の Google Cloud API とまったく同様にいくつかのコード行を記述するだけで、アプリケーションに各種の生成機能を容易に構築できます。ストレージとコンピューティング リソースのプロビジョニングや推論のためのモデルの最適化などの複雑さに、デベロッパーが気を遣う必要がありません。

2. プロンプトのデザイン: Generative AI Studio には、プロンプトのデザインのために使いやすいインターフェースが用意されています。このデザインは、基盤モデルに通知するテキスト入力（プロンプト）を手動で作成するプロセスです。使い慣れたチャット形式のエクスペリエンスを通じ、デベロッパーの専門知識がないユーザーでもモデルを操作できます。チャット インターフェースを使用せずにシステムを適切に構成することもできます。たとえば、プロンプトに対するレスポンスが備える特性を制御できます。具体的には、精度が高いレスポンスにするか、創造性に富むレスポンスにするかを制御できます。

3. プロンプトの調整: プロンプトを調整することで、モデルをトレーニングし直すことなく、少ないコストと優れた効率で基盤モデルをカスタマイズできます。プロンプトは、プログラミング言語ではなく自然言語を使用して、有用な出力が生成されるようにモデルを誘導する手段です。Generative AI Studio では、特定の動作をモデルに求めるために使用するユーザーデータを容易にアップロードできます。たとえば、ブランドボイスで会話するように PaLM 言語モデルを更新する場合は、ブランドのドキュメント、ツイート、広報発表などのアセットを Generative AI Studio にアップロードするだけですみます。

4. 微調整: 高度に差別化したジェレネーティブ AI サービスの構築を目指す組織にとって、Generative AI Studio による微調整機能は絶好のオプションです。微調整とは、トレーニング済みのモデルを新たなデータでさらに深くトレーニングして、そのモデルの重みを変更するプロセスです。法務用語や医学用語などの専門的な結果から成る出力が必要なユースケースで効果的です。Vertex AI の Generative AI Studio では、大規模なデータセットをアップロードしたうえで、Vertex AI Training を使用してモデルを再トレーニングできます。Google Cloud は、基本理念で保護している範囲外にモデルの重み変更を知られることなく、モデルを微調整する機能を用意しています。これにより、データを管理範囲外に置くことなく、基盤モデルの機能を利用できます。

5. コストの最適化: Google では、ここまで説明したようなモデルを自社の本番環境ワークロードで数年間稼働して、コストに最適化した推論を得るための手法をいくつか開発してきました。Google は最適化したモデル選択（OMS）を提案しています。そこでは、リクエストによってモデルに何が求められているかに注目します。そのうえで、リクエストに効果的に回答できる最小のモデルに、そのリクエストを託します。この処理は、可能であればバックグランドで進められ、さまざまな条件に基づいて呼び出されます。

Vertex AI によるジェレネーティブ AI のサポートを早期から使用したお客様は、その機能性を高く評価しています。

CNA で最高データ分析グローバル責任者を務める上級バイス プレジデントの Santosh Bardwaj 氏は次のように述べています。「Vertex AI は、そのリリース時点から CNA で AI のスケーリング変革に効果を発揮し、本番環境で ML モデルの管理に成果を上げてきました。今では、Vertex AI による大規模なモデルのサポートにより、お客様と社員の独自なビジネスニーズに最適に合致するように CNA の見識を整えることもできるようになっています。」

ドイツ銀行で最高イノベーション責任者を務める Gil Perez 氏は次のように述べています。「Google Cloud は当行の戦略パートナーとなっています。当行との共同作業で業務効率を引き上げ、お客様に合わせて商品をデザインして提供する方法を再構成しています。当行は、責任ある AI に向けた Google の取り組みを高く評価しています。ジェレネーティブ AI の進歩によるコイノベーション、デベロッパーの生産性向上でこれまでに得られた成果に立った今後の進歩、イノベーションのめざましい進展、従業員の定着率向上に大いに期待したいと思います。」

新しいビジネスに対応したジェレネーティブ AI プロダクトの開発元を、Google Cloud の Trusted Tester プログラムで選択できます。

Google の AI on Google Cloud ウェブページをご利用になるか、3 月 29 日にオンラインでライブ開催される Google Data Cloud & AI Summit に参加いただき、Google からの新しいお知らせをご覧ください。まだ何ともいえませんが、ちょっとしたダンス動画もご覧に入れるかもしれません。