É possível usar modelos abertos com a Vertex AI. Um modelo aberto está disponível gratuitamente, você tem a liberdade de publicar as saídas dele e pode ser usado em qualquer lugar, desde que você respeite os termos de licenciamento. Ao usar um modelo aberto com a Vertex AI, você usa a Vertex AI na infraestrutura. Você também pode usar modelos abertos com outro produto de infraestrutura, como PyTorch ou Jax. Os modelos abertos não podem ser confundidos com os de código aberto, porque eles não fornecem necessariamente código-fonte e informações para treinar o modelo do zero.
Muitos modelos abertos são considerados modelos de linguagem grande (LLMs) com peso aberto. Os modelos abertos fornecem mais transparência do que os modelos que não têm peso aberto. Os pesos de um modelo são os valores numéricos armazenados na arquitetura de rede neural do modelo que representam os padrões aprendidos e as relações dos dados com os quais um modelo é treinado. Os parâmetros pré-treinados, ou pesos, de modelos de peso abertos são lançados. É possível usar um modelo de peso aberto para inferência e ajuste, enquanto detalhes como o conjunto de dados original, a arquitetura do modelo e o código de treinamento não são fornecidos.
Os detalhes sobre um modelo aberto e como usá-lo estão no card de modelo do Model Garden. Para acessar o card de um modelo aberto, vá até o Model Garden e pesquise o nome dele. Para mais informações sobre o Model Garden, consulte Explorar modelos de IA no Model Garden.
Para aprender a usar os modelos abertos Gemma e Llama, consulte: