Como usar LLM pré-treinado

Esta página descreve como usar um modelo de linguagem grande textual (LLM).

Novos recursos textuais do LLM

É possível receber embeddings de texto configurando manualmente um modelo generativo da Vertex AI, mas talvez você queira abordar mais especificamente o caso de uso do varejista. Para isso, é possível usar modelos generativos pré-treinados da Vertex AI em metadados de varejistas para melhorar o desempenho nos modelos de recomendador.

Os embeddings de texto são mais descritivos, mais longos e não são repetitivos, além de ter recursos de interpretação multilíngue. Esse recurso é baseado em uma lista de permissões. Entre em contato com o suporte para ativar esse recurso.

Não há cobrança pelo uso dos embeddings de texto, e eles estão incluídos nos preços da Pesquisa da Vertex AI.

Os embeddings pré-treinados com LLM melhoram a compreensão semântica de pesquisas de texto longo, como descrições.

Compatibilidade do modelo

O recurso do LLM é compatível com todos os tipos e objetivos de modelos de ML, inclusive:

  • OYML
  • FBT
  • e mais.