Llama モデルを使用する

Llama は、Meta が開発したオープンモデルのコレクションです。このモデルは、Vertex AI でファイン チューニングとデプロイを行うことができます。Llama は、アシスタントのようなチャット用に事前トレーニングされ、指示でチューニングされた生成テキストモデルを提供します。Vertex AI には Llama 3.1、Llama 3、Llama 2 モデルをデプロイできます。

Llama 3.1

多言語大規模言語モデル(LLM)の Llama 3.1 コレクションは、8B、70B、405B のサイズ(テキスト入力 / テキスト出力)の事前トレーニング済みモデルと指示用にチューニングされた生成モデルのコレクションです。Llama 3.1 の指示用にチューニングされたテキストのみのモデル(8B、70B、405B)は、多言語の会話のユースケース用に最適化されています。一般的な業界ベンチマークでは、利用可能なオープンソース チャットモデルやクローズド チャットモデルの多くを上回るパフォーマンスを発揮します。

詳細については、Model Garden の Llama 3.1 モデルカードをご覧ください。

Llama 3

Llama 3 の指示用にチューニングされたモデルは、会話のユースケース用に最適化された LLM のコレクションです。Llama 3 モデルは、一般的な業界ベンチマークで、利用可能なオープンソース チャットモデルの多くよりも優れたパフォーマンスを発揮しています。

詳細については、Model Garden の Llama 3 モデルカードをご覧ください。

Llama 2

Llama 2 LLM は、事前トレーニング済みかつファインチューニング済みの生成テキストモデルのコレクションで、7B~70B のパラメータを使用します。

詳細については、Model Garden の Llama 2 モデルカードをご覧ください。

Code Llama

Meta の Code Llama モデルは、コードの合成、理解、命令を目的として設計されています。

詳細については、Model Garden の Code Llama モデルカードをご覧ください。

Llama Guard 3

Llama Guard 3 は Llama Guard 2 の機能に基づいて構築されており、名誉毀損、選挙、コード インタープリタの不正使用の 3 つの新しいカテゴリが追加されています。また、このモデルは多言語対応で、Llama 3 以降の指示モデルと一致するプロンプト形式を備えています。

詳細については、Model Garden の Llama Guard モデルカードをご覧ください。

リソース

Model Garden の詳細については、Model Garden で AI モデルを確認するをご覧ください。