Descripción general de los modelos que se implementan por sí solos

Model Garden ofrece modelos abiertos, de socios y personalizados que se implementan por sí mismos y que puedes implementar y publicar en Vertex AI. Estos modelos son diferentes de las ofertas de modelo como servicio (MaaS), que son sin servidores y no requieren implementación manual.

Cuando implementas modelos por tu cuenta, los implementas de forma segura en tu proyecto de Google Cloud y en tu red de VPC.

Implementa modelos abiertos por tu cuenta

Los modelos abiertos proporcionan capacidades previamente entrenadas para diversas tareas de IA, incluidos los modelos de Gemini que se destacan en el procesamiento multimodal. Un modelo abierto está disponible libremente, puedes publicar sus resultados y se puede usar en cualquier lugar siempre que cumplas con sus condiciones de licencia. Vertex AI ofrece modelos abiertos (también conocidos como de código abierto) y de código abierto.

Cuando usas un modelo abierto con Vertex AI, usas Vertex AI para tu infraestructura. También puedes usar modelos abiertos con otros productos de infraestructura, como PyTorch o Jax.

Modelos de pesos abiertos

Muchos modelos abiertos se consideran modelos de lenguaje grandes (LLM) de ponderación abierta. Los modelos abiertos proporcionan más transparencia que los modelos que no son de ponderación abierta. Las ponderaciones de un modelo son los valores numéricos almacenados en la arquitectura de red neuronal del modelo que representan los patrones y las relaciones aprendidos de los datos con los que se entrena un modelo. Se publican los parámetros previamente entrenados, o ponderaciones, de los modelos de ponderación abierta. Puedes usar un modelo de ponderación abierta para la inferencia y el ajuste, mientras que no se proporcionan detalles como el conjunto de datos original, la arquitectura del modelo y el código de entrenamiento.

Modelos de código abierto

Los modelos abiertos son diferentes de los modelos de IA de código abierto. Si bien los modelos abiertos suelen exponer los pesos y la representación numérica principal de los patrones aprendidos, no necesariamente proporcionan el código fuente completo ni los detalles del entrenamiento. Proporcionar ponderaciones ofrece un nivel de transparencia del modelo de IA, lo que te permite comprender las capacidades del modelo sin tener que compilarlo por tu cuenta.

Modelos de socios con autoimplementación

Model Garden te ayuda a comprar y administrar licencias de modelos de socios que ofrecen modelos propios como opción de implementación automática. Después de comprar acceso a un modelo de Cloud Marketplace, puedes optar por realizar la implementación en hardware a pedido o usar tus reservas de Compute Engine y los descuentos por compromiso de uso para cumplir con los requisitos de tu presupuesto. Se te cobra por el uso del modelo y por la infraestructura de Vertex AI que usas.

Para solicitar el uso de un modelo de socio implementado por tu cuenta, busca el modelo pertinente en la consola de Model Garden, haz clic en Contactar con el equipo de ventas y, luego, completa el formulario, que iniciará el contacto con un representante de ventas de Google Cloud .

Si deseas obtener más información para implementar y usar modelos de socios, consulta Implementa un modelo de socio y realiza solicitudes de predicción.

Consideraciones

Ten en cuenta las siguientes limitaciones cuando uses modelos de socios implementados por tu cuenta:

  • A diferencia de los modelos abiertos, no puedes exportar pesos.
  • Si tienes configurados los Controles del servicio de VPC para tu proyecto, no podrás subir modelos, lo que te impedirá implementar modelos de socios.
  • En el caso de los extremos, solo se admite el tipo de extremo público compartido.

Más información sobre los modelos implementados por el usuario en Vertex AI