Comparar peticiones

La función Comparar te permite ver cómo cambia el resultado del modelo al modificar una petición, un modelo o un parámetro. Puedes ver cada una de las peticiones y sus respuestas una al lado de la otra para compararlas y analizarlas de las siguientes formas:

  • Con una nueva petición.
  • Con otra petición guardada.
  • Con una verdad fundamental.

Antes de empezar

Para acceder a la función Comparar, sigue estos pasos:

  1. En la Google Cloud consola, ve a la página Crear petición.

    Ir a Crear petición

  2. Seleccione Comparar. Aparecerá la página Comparar.

Crear una petición en la función Comparar

En la página Comparar, puedes crear una petición antes de seleccionar otra para comparar los resultados.

Para crear una petición, sigue estos pasos:

  1. En el campo Nueva petición, escribe tu petición.

  2. Haz clic en Enviar peticiones. La respuesta del modelo aparece debajo del texto de la petición que has introducido.

  3. Haz clic en Guardar como nuevo. Aparecerá un cuadro de diálogo con el mensaje Guardar.

  4. Escribe el nombre de la nueva petición en el campo Nombre de la petición.

  5. Selecciona tu región en el campo Región o déjala como región predeterminada.

  6. Si se aplica una clave de cifrado gestionada por el cliente (CMEK), haz lo siguiente:

    1. Selecciona la casilla Clave de cifrado gestionada por el cliente (CMEK).
    2. Selecciona una clave en el campo Seleccionar una clave de Cloud KMS.

  7. Haz clic en Guardar para guardar la petición en la lista de peticiones que puedes usar en la página Comparar peticiones guardadas.

  8. Haz clic en Enviar peticiones para comparar las peticiones y sus respuestas.

Puedes actualizar tus peticiones y guardar las versiones actualizadas como nuevas peticiones.

Comparar con una nueva petición

Para comparar una petición guardada con una nueva, sigue estos pasos:

  1. Haz clic en Comparar nueva petición. Aparecerá un panel Comparar.
  2. Opcional: Haz clic en Cambiar modelo para usar un modelo diferente del predeterminado.
  3. Opcional: Despliega Salidas.
    4. Resultados:
    1. Opcional: Si quieres que el modelo genere el resultado en un formato específico, como JSON, haz clic en el interruptor Salida estructurada. Después de seleccionar Salida estructurada, las opciones de Fundamentación se desactivan, ya que no se admite la fundamentación con la salida estructurada.
    2. Opcional: Cambia el Presupuesto de reflexión a una de las siguientes opciones:
      • Automático: el modelo solo piensa cuando lo necesita. El modelo ajusta la cantidad de información que cree o analice sobre una situación en función de lo que se necesite en ese momento.
      • Manual: puedes ajustar los tokens del presupuesto de pensamiento.
      • Desactivado: no se usan ni la función de reflexión ni los presupuestos.
  1. Opcional: Despliega Herramientas.
    2. Herramientas:
    1. Selecciona una de las opciones siguientes:
      • Fundamentación: Google: fundamentación con la Búsqueda de Google o Google Maps.
      • Fundamentación: tus datos: fundamentación con el motor de RAG de Vertex AI, Vertex AI Search o Elasticsearch.
        1. Si selecciona Fundamentación: tus datos, elija la fuente de datos que quiera usar.
  1. Opcional: Expande Avanzado:
    2. Avanzada:
    1. Selecciona Región.
    2. Selecciona Configuración del filtro de seguridad. Aparecerá un cuadro de diálogo. Mantén el valor predeterminado Desactivado o especifica Bloquear algunas, Bloquear algunas o Bloquear la mayoría en cada una de las siguientes opciones:
      • Incitación al odio: comentarios negativos o dañinos dirigidos a la identidad o a atributos protegidos.
      • Contenido peligroso: promueve o permite el acceso a productos, servicios y actividades dañinos.
      • Contenido sexual explícito: incluye referencias a actos sexuales u otro contenido lascivo.
      • Contenido de acoso: comentarios maliciosos, intimidatorios, de acoso o abusivos dirigidos a otra persona.
    3. Haga clic en Guardar para guardar la configuración y cerrar el cuadro de diálogo.
    4. Selecciona la temperatura en el campo Temperatura. La temperatura controla la aleatoriedad en la selección de tokens. Una temperatura más baja es adecuada cuando esperas una respuesta verdadera o correcta. Una temperatura más alta puede dar lugar a resultados diversos o inesperados.
    5. Selecciona el límite de tokens de salida en el campo Límite de tokens de salida. El límite de tokens de salida determina la cantidad máxima de texto de salida de una petición. Un token tiene aproximadamente cuatro caracteres.
    6. Selecciona el número máximo de respuestas en el campo Número máximo de respuestas. Si se ha alcanzado el número máximo de respuestas del modelo generadas por cada petición. Debido a los filtros de seguridad u otras políticas, es posible que las respuestas se sigan bloqueando.
    7. Selecciona un valor en el campo Top-P. El parámetro Top-p cambia la forma en que el modelo selecciona los tokens de salida.
    8. Activa el interruptor del campo Respuestas graduales del modelo. Si se selecciona esta opción, las respuestas se imprimen a medida que se generan.
    9. Introduce una secuencia de parada en el campo Añadir secuencia de parada. Pulsa Intro después de cada secuencia.
  1. Haz clic en Guardar para guardar los cambios en la configuración.
  2. Haz clic en Aplicar.
  3. Haz clic en Enviar peticiones para comparar las peticiones y sus respuestas.

Para obtener más información sobre los límites de tokens de cada modelo, consulta Controlar el presupuesto de pensamiento.

Comparar con otra petición guardada

Para comparar una petición guardada con otra, sigue estos pasos:

  1. Haz clic en Comparar peticiones guardadas. Aparecerá el panel Petición existente.

  2. Elige hasta dos peticiones para compararlas.

    1. Selecciona un Nombre de petición. Si tienes muchas peticiones en tu lista, haz clic en el campo Filtrar y selecciona la propiedad por la que quieras filtrar. Introduce un valor y pulsa Intro.
    2. Haz clic en Aplicar. En la página Comparar se muestra la petición que has seleccionado junto con otras que has creado o seleccionado para compararlas.

  3. Haz clic en Enviar peticiones para comparar las peticiones y sus respuestas.

Comparar con una verdad fundamental

La verdad fundamental es la respuesta que prefieres a la petición. Todas las demás respuestas del modelo se evalúan en comparación con la respuesta validada en el terreno.

Para comparar tu petición guardada con una verdad fundamental, sigue estos pasos:

  1. Haz clic en Verdad fundamental. Aparecerá el panel Verdad fundamental.
  2. Introduce los datos verificados para generar métricas de evaluación adicionales.
  3. Haz clic en Guardar para guardar la verdad fundamental.
  4. Haz clic en Enviar peticiones para comparar las peticiones y sus respuestas.

Las métricas de evaluación que se generan al comparar una petición con una verdad fundamental no se ven afectadas por la región que selecciones.

Siguientes pasos