Ejecutar la inferencia de LLM en GPUs de Cloud Run con Hugging Face Transformers.js

En el siguiente laboratorio se muestra cómo ejecutar un servicio backend que ejecuta el paquete Transformers.js. El paquete Transformers.js es funcionalmente equivalente a la biblioteca de Python Transformers de Hugging Face junto con el modelo Gemma 2 de Google.

Consulta el codelab completo en Cómo ejecutar Transformers.js en GPUs de Cloud Run.