Vertex AI に Mistral AI モデルが追加され、柔軟性のある優れた AI ソリューションが実現

※この投稿は米国時間 2023 年 10 月 18 日に、Google Cloud blog に投稿されたものの抄訳です。

ヨーロッパの AI ソリューションの大手プロバイダである Mistral AI は、高パフォーマンスで効率的なオープンソース（OSS）基盤モデルを設計することを使命として掲げています。

Mistral AI は Google Cloud と連携し、最先端の AI モデルを Vertex AI 内にネイティブに統合いたします。このインテグレーションにより、あらゆる規模の企業が AI プロダクトやサービスを簡単にリリースできるようになるため、AI の採用を加速できます。

Mistral 7B は Mistral AI の基盤モデルで、カスタマイズされたトレーニング、チューニング、データ処理手法に基づいています。このように最適化された基盤モデルにより、パラメータの数が少なくても、知識の圧縮と深い推論能力が可能になります。また、AI のトレーニング時間、費用、エネルギー消費、環境への影響を削減することで、サステナビリティと効率性の向上につながります。

Mistral のモデルは、モデル推論の高速性と精度のバランスを取る Grouped-Query Attention（GQA）を利用し、Sliding Window Attention（SWA）メソッドを活用してより長いシーケンスを低費用で処理するだけでなく、結果として得られる大規模言語モデル（LLM）の精度を向上させます。

AI における一貫したアプローチ

Google は、誰もが素早く簡単に AI の理想を実現できるべきであると考えています。OSS は、この目標を達成するためにますます重要になっており、AI と ML のエコシステムのイノベーションのペースに大きく影響します。OSS の取り組みは、幅広い開発者や研究者がこうした AI モデルの改善に貢献し、AI を説明可能かつ倫理的で公平なものにすることを目的としています。

Google Cloud は、OSS AI コミュニティとエコシステムのベスト プラットフォームとなれるよう尽力しています。Mistral AI モデルの Google Cloud への導入は、このミッションをさらに前進させるものです。

どこでも自由にイノベーションを実施

Mistral AI ユーザーは、マルチクラウド、ハイブリッド クラウド、および高水準のデータ セキュリティとプライバシーに対する Google Cloud の取り組みからメリットを得られます。具体的には、プライバシー ルールに沿ってデータを保持でき、オンプレミス、Google Cloud、別のクラウド プロバイダ、複数の地理的リージョンなど、選択した環境でのモデルのファインチューニングや実行が可能です。Google Cloud とオープンソースのテクノロジーを通じて、ユーザーは柔軟に選択できます。

組織には、データ共有とオープン インフラストラクチャを備えた AI エコシステムが必要です。Google Cloud のお客様は、Google Kubernetes Engine、GKE での Ray、Vertex AI での Ray などのオープンソース テクノロジー上で AI インフラストラクチャを実行、管理できます。また、BigQuery Omni を活用して外部データソースやクラウド プロバイダのデータにアクセスしたり、BigLake を使用してクラウド全体でデータレイクやデータ ウェアハウスを統合したりできます。

Google Cloud の AI / ML プライバシーに対するコミットメント

Google Cloud は、お客様のデータの可視性とコントロールを向上させるべく取り組んでいます。

お客様が所有し、管理しているデータは、常に Google Cloud 環境内に存在します。Google は、お客様におかれましては、自身のデータを限定公開にして、幅広い Google や LLM のトレーニング コーパスと共有したくないという要望があることを認識しております。お客様はデータの保存場所、使用方法、使用場所を常にコントロール可能で、データリッチなユースケースを安全に追求でき、データ プライバシーの侵害を恐れる必要がありません。お客様のクラウド環境外で、お客様のデータが Google に保存、読み取り、使用されることもありません。お客様がファインチューニングしたデータはあくまでお客様のものです。Google は、最初からエンタープライズ グレードの安全性、セキュリティ、プライバシーが組み込まれた Vertex AI や Mistral AI モデルなどのクラウド AI サービスを提供できます。

Mistral 7B が Vertex AI で利用可能に

本日、Mistral AI 初のオープンソース モデル「Mistral 7B」が Vertex AI Notebooks に統合されたことをお知らせいたします。

この公開ノートブックにより、Google Cloud のお客様はエンドツーエンドのワークフローをデプロイして、Vertex AI Notebooks で Mistral-7B と Mistral-7B-Instruct を試すこと（テスト、ファインチューニング）ができます。Vertex AI Notebooks を使用すると、データ サイエンティストは、共有、Google Cloud データサービスへの接続、データセットの分析、さまざまなモデリング手法のテスト、トレーニング済みモデルの本番環境へのデプロイ、モデル ライフサイクル全体の MLOps 管理によって、モデルを共同開発できます。

Vertex AI への Mistral AI のモデル インテグレーションは、サービング スループットを向上できる高度に最適化された LLM サービング フレームワーク、vLLM を活用しています。公開ノートブックを実行すると、ユーザーは推論用に（Model Garden で管理される）vLLM イメージを Vertex AI エンドポイントに自動的にデプロイできるようになります。エンドポイントを定義する際、ユーザーは多くのアクセラレータを選択してモデル推論のパフォーマンスを最適化できます。

Vertex AI モデルのデプロイを活用すると、ユーザーは Vertex AI Model Registry の恩恵を受けられます。この Model Registry は、Mistral AI モデルとファインチューニングされた独自モデルのライフサイクルを管理できる中央リポジトリです。Vertex AI Model Registry では、モデルの概要を確認できるため、新しいバージョンの整理、追跡、トレーニングの向上が実現します。デプロイするモデル バージョンがある場合は、レジストリから直接エンドポイントに割り当てることも、エイリアスを使用してモデルをエンドポイントにデプロイすることもできます。

Mistral AI のパフォーマンスと機能の詳細については、ブログ投稿をご覧ください。他のパートナーが Google Cloud で生成 AI を活用している方法もご覧ください。

-AI アカウント エグゼクティブ Hadrien Camus

-AI Infrastructure カスタマー エンジニア Thomas Le Moullec