Pruébalo: Prueba las capacidades del modelo con las zonas de pruebas de demostración en Model Garden

Pruébalo: Prueba las capacidades del modelo con las zonas de pruebas de demostración en Model Garden

Model Garden aloja áreas de demostración públicas para los modelos compatibles. Los espacios de pruebas se basan en extremos de predicción en línea de Vertex AI previamente implementados.

Cuando abres la tarjeta de un modelo compatible, se incorpora un panel Probar en la tarjeta. Para probar rápidamente las capacidades del modelo, envía una instrucción de texto en el panel Probar. El panel Probar también te permite configurar algunos de los parámetros más comunes, como la temperatura y la cantidad de tokens de salida.

Modelos compatibles

Los siguientes modelos tienen zonas de pruebas de demostración disponibles.

Proveedor	Modelos
Google	Gemma 2 2B it (ajuste de instrucciones) Gemma 2 9B it (ajuste de instrucciones) Gemma 2 27B it (ajuste de instrucciones) Gemma 2B Gemma 2B it (ajuste de instrucciones) Gemma 7B Gemma 7B it (ajuste de instrucciones)
Meta	Instructivo de Llama 3 8B Instructivo de Llama 3 70B Llama 2 7B Llama 2 7B Chat Llama 2 13B Chat Llama 2 70B Chat (Int8) Code Llama 7B Python
IIT	Falcon 7B
Mistral AI	Mixtral 8x7B

Antes de comenzar

Para este instructivo, debes configurar un proyecto de Google Cloud y habilitar la API de Vertex AI.

1. Sign in to your Google Cloud account. If you're new to Google Cloud, create an account to evaluate how our products perform in real-world scenarios. New customers also get $300 in free credits to run, test, and deploy workloads.

2. In the Google Cloud console, on the project selector page, select or create a Google Cloud project.

   Note: If you don't plan to keep the resources that you create in this procedure, create a project instead of selecting an existing project. After you finish these steps, you can delete the project, removing all resources associated with the project.

   Go to project selector

3. Make sure that billing is enabled for your Google Cloud project.

4. Enable the Vertex AI API.

   Enable the API

5. In the Google Cloud console, on the project selector page, select or create a Google Cloud project.

   Note: If you don't plan to keep the resources that you create in this procedure, create a project instead of selecting an existing project. After you finish these steps, you can delete the project, removing all resources associated with the project.

   Go to project selector

6. Make sure that billing is enabled for your Google Cloud project.

7. Enable the Vertex AI API.

   Enable the API

Prueba Gemma 2

En esta guía de inicio rápido, probarás el modelo Gemma-2b-it. Ten en cuenta que -it significa ajuste de instrucciones.

1. En la consola de Google Cloud, ve a la tarjeta del modelo Gemma 2.

   Ir a Gemma 2

2. En el panel Probar, haz lo siguiente:

   1. En Región, acepta el valor predeterminado o elige tu región.
   2. En Extremo, selecciona Demo playground (Free)2b-it.
   3. En el cuadro Consigna, ingresa Why is the sky blue?.

   4. Expande la sección Opciones avanzadas y consulta los parámetros predeterminados.

      

3. Haz clic en Enviar. El resultado aparece debajo del botón Enviar.

Realiza una limpieza

Sigue estos pasos para evitar que se apliquen cargos a tu cuenta de Google Cloud por los recursos que usaste en esta página.

Borra el proyecto

La manera más fácil de eliminar la facturación es borrar el proyecto que creaste para el instructivo.

Para borrar el proyecto, sigue estos pasos:

Precaución: Borrar un proyecto tiene las siguientes consecuencias:

• Se borra todo en el proyecto. Si usaste un proyecto existente para las tareas de este documento, cuando lo borres, también se borrará cualquier otro trabajo que hayas realizado en el proyecto.
• Se pierden los ID personalizados de proyectos. Cuando creaste este proyecto, es posible que hayas creado un ID del proyecto personalizado que desees utilizar en el futuro. Para conservar las URL que utilizan el ID del proyecto, como una URL appspot.com, borra los recursos seleccionados dentro del proyecto en lugar de borrar todo el proyecto.

Si planeas explorar varias infraestructuras, instructivos y guías de inicio rápido la reutilización de proyectos puede ayudarte a evitar exceder los límites de las cuotas del proyecto.

1. In the Google Cloud console, go to the Manage resources page.

   Go to Manage resources

2. In the project list, select the project that you want to delete, and then click Delete.
3. In the dialog, type the project ID, and then click Shut down to delete the project.

¿Qué sigue?

Consulta una descripción general de Model Garden.