使用 Llama 模型

Llama 是由 Meta 开发的一组开放模型,您可以在 Vertex AI 上微调和部署这些模型。Llama 为类似助理的聊天提供经过预训练和指令调优的生成文本模型。您可以在 Vertex AI 上部署 Llama 3.1、Llama 3 和 Llama 2 模型。

Llama 3.1

Llama 3.1 多语言的大语言模型 (LLM) 集合是一组经过预训练和指令调优的生成模型,大小为 8B、70B 和 405B(文本输入/文本输出)。Llama 3.1 指令调优的纯文本模型(8B、70B、405B)针对多语言对话应用场景进行了优化,在常见的行业基准中优于许多可用的开源和封闭式聊天模型。

如需了解详情,请参阅 Model Garden 中的 Llama 3.1 模型卡片。

Llama 3

Llama 3 指令调优的模型是一组针对对话应用场景优化的 LLM。在常见行业基准中,Llama 3 模型的表现优于许多可用的开源聊天模型。

如需了解详情,请参阅 Model Garden 中的 Llama 3 模型卡片。

Llama 2

Llama 2 LLM 是一组经过预训练和微调的生成文本模型,大小范围从 7B 到 70B 参数不等。

如需了解详情,请参阅 Model Garden 中的 Llama 2 模型卡片。

Code Llama

Meta 的 Code Llama 模型专为代码合成、理解和指令而设计。

如需了解详情,请参阅 Model Garden 中的 Code Llama 模型卡片。

Llama Guard 3

Llama Guard 3 基于 Llama Guard 2 的功能而构建,并添加了三个新类别:诽谤、选举和代码解释器滥用。此外,此模型支持多种语言,并且提示格式与 Llama 3 或更高版本的指令模型一致。

如需了解详情,请参阅 Model Garden 中的 Llama Guard 模型卡片。

资源

如需详细了解 Model Garden,请参阅在 Model Garden 中探索 AI 模型