Usa Cloud Run para alojar agentes de IA. Los agentes de IA se pueden implementar como servicios de Cloud Run y realizar tareas y proporcionar información a los usuarios de forma conversacional. Cloud Run proporciona ajuste de escala automático y alta escalabilidad sin recursos de aprovisionamiento, y solo factura el uso real. Los agentes de IA se pueden usar para varios fines, como la atención al cliente, los asistentes virtuales y la generación de contenido.
Puedes usar un servicio de Cloud Run como un extremo de API escalable para procesar mensajes de los usuarios finales. Tu servicio ejecuta un framework de orquestación de IA, como LangChain, LangGraph o Firebase Genkit, que organiza llamadas a lo siguiente:
- Modelos de IA, como la API de Gemini, los extremos de Vertex AI o cualquier otro servicio de Cloud Run habilitado para GPU
- Bases de datos vectoriales, como Cloud SQL para PostgreSQL o AlloyDB para PostgreSQL con la extensión
pgvector - Otros servicios o APIs
Para obtener una arquitectura más detallada, consulta Infraestructura para una aplicación de IA generativa compatible con RAG mediante Vertex AI y AlloyDB para PostgreSQL.
Obtén información para implementar Firebase Genkit en Cloud Run en la documentación de Firebase Genkit.
Trabaja en un codelab para aprender a compilar e implementar una app de LangChain en Cloud Run.