Cloud Run을 사용하여 AI 에이전트를 호스팅합니다. AI 상담사는 Cloud Run 서비스로 구현할 수 있으며 대화 방식으로 작업을 실행하고 사용자에게 정보를 제공할 수 있습니다. Cloud Run은 리소스를 프로비저닝하지 않고도 자동 확장 및 높은 확장성을 제공하면서 실제 사용량에 대해서만 비용을 청구합니다. AI 상담사는 고객 서비스, 가상 어시스턴트, 콘텐츠 생성 등 다양한 목적으로 사용할 수 있습니다.
Cloud Run 서비스를 확장 가능한 API 엔드포인트로 사용하여 최종 사용자의 메시지를 처리할 수 있습니다. 서비스가 다음 호출을 조정하는 AI 조정 프레임워크(예: LangChain, LangGraph, Firebase Genkit)를 실행합니다.
- Gemini API, Vertex AI 엔드포인트, 기타 GPU 지원 Cloud Run 서비스와 같은 AI 모델
pgvector확장자가 있는 PostgreSQL용 Cloud SQL 또는 PostgreSQL용 AlloyDB와 같은 벡터 데이터베이스- 기타 서비스 또는 API
자세한 아키텍처는 Vertex AI 및 PostgreSQL용 AlloyDB를 사용하는 RAG 지원 생성형 AI 애플리케이션을 위한 인프라를 참고하세요.
Firebase Genkit 문서에서 Firebase Genkit을 Cloud Run에 배포하는 방법을 알아보세요.
codelab을 통해 LangChain 앱을 빌드하고 Cloud Run에 배포하는 방법을 알아보세요.