Para borrar una caché de contexto, necesitas el ID de caché, el ID del proyecto de Google Cloud con el que está asociada la caché de contexto y la región en la que se procesó la solicitud para crear la caché de contexto. El ID de caché de una caché de contexto se muestra cuando creas la caché de contexto. También puedes obtener el ID de caché de cada caché de contexto asociada con un proyecto a través del comando de lista de caché de contexto.
Ejemplo de eliminación de caché de contexto
En el siguiente ejemplo, se muestra cómo borrar una caché de contexto.
Python
Si deseas obtener información para instalar o actualizar el SDK de Vertex AI para Python, consulta Instala el SDK de Vertex AI para Python. Si deseas obtener más información, consulta la documentación del SDK de Vertex AI de referencia de la API de Vertex para Python.
Respuestas de transmisión y sin transmisión
Puedes elegir si el modelo genera respuestas de transmisión o sin transmisión. Para las respuestas de transmisión, recibirás cada respuesta en cuanto se genere su token de salida. Para las respuestas sin transmisión, recibirás todas las respuestas después de que se generen todos los tokens de salida.
Para una respuesta de transmisión, usa el parámetro stream
en generate_content
.
response = model.generate_content(contents=[...], stream = True)
Para una respuesta sin transmisión, quita el parámetro o configúralo como False
.
Código de muestra
REST
A continuación, se muestra cómo usar REST para borrar una caché de contexto asociada con un proyecto de Google Cloud; para ello, se envía una solicitud DELETE al extremo del modelo de publicador.
Antes de usar cualquiera de los datos de solicitud a continuación, realiza los siguientes reemplazos:
- PROJECT_ID: El ID del proyecto.
- LOCATION: La región en la que se procesó la solicitud para crear la caché de contexto y en la que se almacenó el contenido almacenado en caché.
- CACHE_ID: el ID de la caché de contexto que se borrará. El ID de caché de contexto se muestra cuando creas la caché de contexto. También puedes encontrar los IDs de caché de contexto; para ello, enumera las cachés de contexto de un proyecto de Google Cloud en uso. Para obtener más información, consulta Crea una caché de contexto y Enumera cachés de contexto.
Método HTTP y URL:
DELETE https://LOCATION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/cachedContents/CACHE_ID
Para enviar tu solicitud, elige una de estas opciones:
curl
Ejecuta el siguiente comando:
curl -X DELETE \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
"https://LOCATION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/cachedContents/CACHE_ID"
PowerShell
Ejecuta el siguiente comando:
$cred = gcloud auth print-access-token
$headers = @{ "Authorization" = "Bearer $cred" }
Invoke-WebRequest `
-Method DELETE `
-Headers $headers `
-Uri "https://LOCATION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/cachedContents/CACHE_ID" | Select-Object -Expand Content
Si la operación de eliminación se realiza de forma correcta, la respuesta estará vacía:
Ejemplo del comando curl
LOCATION="us-central1"
PROJECT_ID="PROJECT_ID"
CACHE_ID="CACHE_ID"
curl \
-X DELETE \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
https://${LOCATION}-aiplatform.googleapis.com/v1/projects/${PROJECT_ID}/locations/${LOCATION}/${CACHE_ID}
¿Qué sigue?
- Obtén más información acerca de cómo crear una nueva caché de contexto.
- Descubre cómo obtener información sobre todas las caché de contexto asociadas con un proyecto de Google Cloud.