Llama モデルを使用する

Llama は、Meta が開発したオープンモデルのコレクションです。このモデルは、Vertex AI でファイン チューニングとデプロイを行うことができます。Llama は、アシスタントのようなチャット用に事前トレーニングされ、指示でチューニングされた生成テキストモデルとマルチモーダル モデルを提供します。Vertex AI には Llama 3.3、Llama 3.2、Llama 3.1、Llama 3、Llama 2 モデルをデプロイできます。

Llama 3.3

Llama 3.3 は、テキストのみの 70B 指示用にチューニングされたモデルです。テキストのみのアプリケーションに使用すると、Llama 3.1 70B と Llama 3.2 90B と比較してパフォーマンスが向上します。また、一部のアプリケーションでは、Llama 3.3 70B のパフォーマンスが Llama 3.1 405B に近づきます。

詳細については、Model Garden の Llama 3.3 モデルカードをご覧ください。

Llama 3.2

Llama 3.2 を使用すると、デベロッパーは最新の生成 AI モデルとアプリケーションを構築してデプロイできます。Llama の機能を使用して、画像推論などの新しいイノベーションを促進できます。Llama 3.2 は、オンデバイス アプリケーションでよりアクセスしやすくなるように設計されています。次のリストは、Llama 3.2 の機能をまとめたものです。

  • 小規模なモデルをデバイス上で処理することで、よりプライバシーに配慮したパーソナライズされた AI エクスペリエンスを提供します。
  • レイテンシを短縮し、パフォーマンスを向上させ、幅広いアプリケーションに適した、より効率的なモデルを提供します。
  • Llama Stack 上に構築されているため、アプリケーションの構築とデプロイが容易です。Llama Stack は、標準的なツールチェーン コンポーネントとエージェント アプリケーションを構築するための標準化されたインターフェースです。
  • 画像エンコーダ表現を言語モデルに統合する新しいモデル アーキテクチャにより、ビジョンタスクをサポートします。

1B モデルと 3B モデルは、多言語ローカル知識の検索、要約、書き換えなど、デバイス上のユースケースをサポートする軽量のテキストのみのモデルです。

Llama 11B モデルと 90B モデルは、画像推論を備えた小規模および中規模のマルチモーダル モデルです。たとえば、チャートから視覚データを分析したより正確な回答の提供や、画像から詳細を抽出したテキストの説明の生成ができます。

詳細については、Model Garden の Llama 3.2 モデルカードをご覧ください。

考慮事項

11B と 90B を使用する場合、テキストのみのプロンプトを送信する際の制限はありません。ただし、プロンプトに画像を含める場合は、画像をプロンプトの先頭に配置する必要があります。また、画像は 1 つだけ含めることができます。テキストと画像を交互に配置することはできません。

Llama 3.1

多言語大規模言語モデル（LLM）の Llama 3.1 コレクションは、8B、70B、405B のサイズ（テキスト入力 / テキスト出力）の事前トレーニング済みモデルと指示用にチューニングされた生成モデルのコレクションです。Llama 3.1 の指示用にチューニングされたテキストのみのモデル（8B、70B、405B）は、多言語の会話のユースケース用に最適化されています。一般的な業界ベンチマークでは、利用可能なオープンソース チャットモデルやクローズド チャットモデルの多くを上回るパフォーマンスを発揮します。

詳細については、Model Garden の Llama 3.1 モデルカードをご覧ください。

Llama 3

Llama 3 の指示用にチューニングされたモデルは、会話のユースケース用に最適化された LLM のコレクションです。Llama 3 モデルは、一般的な業界ベンチマークで、利用可能なオープンソース チャットモデルの多くよりも優れたパフォーマンスを発揮しています。

詳細については、Model Garden の Llama 3 モデルカードをご覧ください。

Llama 2

Llama 2 LLM は、事前トレーニング済みかつファインチューニング済みの生成テキストモデルのコレクションで、7B～70B のパラメータを使用します。

詳細については、Model Garden の Llama 2 モデルカードをご覧ください。

Code Llama

Meta の Code Llama モデルは、コードの合成、理解、命令を目的として設計されています。

詳細については、Model Garden の Code Llama モデルカードをご覧ください。

Llama Guard 3

Llama Guard 3 は Llama Guard 2 の機能に基づいて構築されており、名誉毀損、選挙、コード インタープリタの不正使用の 3 つの新しいカテゴリが追加されています。また、このモデルは多言語対応で、Llama 3 以降の指示モデルと一致するプロンプト形式を備えています。

詳細については、Model Garden の Llama Guard モデルカードをご覧ください。

リソース

Model Garden の詳細については、Model Garden で AI モデルを確認するをご覧ください。