Conecta modelos a las APIs mediante extensiones

Los modelos grandes de lenguaje (LLM) son potentes para resolver muchos tipos de problemas. Sin embargo, tienen las siguientes limitaciones:

  • Se congelan después del entrenamiento, lo que lleva a un conocimiento inactivo.
  • No pueden consultar ni modificar datos externos.

Vertex AI Extensions (actualmente en vista previa privada) es una plataforma para extensiones empresariales que aborda estas deficiencias. Con Vertex AI Extensions, puedes crear, implementar y administrar extensiones que conectan modelos de lenguaje grandes a las APIs de sistemas externos. Estos sistemas pueden proporcionar datos a los LLM en tiempo real y realizar acciones de procesamiento de datos en su nombre.

Vertex AI Extensions es compatibles con patrones como ReAct y frameworks como LangChain. Con Vertex AI Extensions, tus LLM pueden encadenar acciones de extensión para planificar, razonar y completar tareas complejas.

Para obtener más información, consulta Casos de uso y beneficios de Vertex AI Extensions. Para comenzar a probar las extensiones, regístrate en el programa de Verificador de confianza de Extensions.

Casos de uso y beneficios de Vertex AI Extensions

Con Vertex AI Extensions, puedes crear, implementar y administrar extensiones que conectan modelos de lenguaje grandes a las APIs de sistemas externos. Estos sistemas pueden proporcionar datos a los LLM en tiempo real y realizar acciones de procesamiento de datos en su nombre. Estos son algunos de los casos de uso posibles:

  • Generar y ejecutar código.
  • Consultar sitios web y sintetizar información.
  • Realizar búsquedas en índices y avanzadas de fuentes de datos empresariales.
  • Consultar y analizar almacenes de datos.

Vertex AI Extensions es compatibles con patrones como ReAct y frameworks como LangChain. Con Vertex AI Extensions, tus LLM pueden encadenar acciones de extensión para planificar, razonar y completar tareas complejas. Estos son algunos de los casos de uso posibles:

  • Crear una presentación a partir de un documento.
  • Enviar gastos para el reembolso.
  • Planificar un viaje y comprar entradas.
  • Proponer y ejecutar respuestas a incidentes de seguridad.

Vertex AI Extensions proporcionará los siguientes beneficios:

  • Controles empresariales: Permisos de IAM y controles de seguridad para la transparencia de acceso (AXT), residencia de datos (DRZ), claves de encriptación administradas por el cliente (CMEK) y controles de seguridad de nube privada virtual (VPC-SC).
  • Garantías de rendimiento: Son los contratos contractuales que indican que tus datos privados no se filtrarán ni se usarán en el entrenamiento de modelos, y que la plataforma entrega funciones y tiempos de actividad específicos.
  • Extensiones privadas: Los usuarios autorizados de tu organización o un socio de confianza pueden usar extensiones para acceder a datos y acciones internas sensibles, como buscar bases de conocimiento internas o completar acciones de RR.HH.
  • Integraciones de productos de Google: Integración en productos de Google, como BigQuery, Vertex AI Search y modelos especializados.

¿Qué sigue?