생성형 AI 애플리케이션을 개발하는 방법을 알아봅니다.

생성형 AI 애플리케이션 빌드에 가장 적합한 제품, 프레임워크, 도구를 알아보세요. 클라우드 호스팅 생성형 AI 애플리케이션의 일반적인 구성요소는 다음과 같습니다.

1. 애플리케이션 호스팅: 애플리케이션을 호스팅하기 위한 컴퓨팅입니다. 애플리케이션은 Google Cloud의 클라이언트 라이브러리 및 SDK를 사용하여 다양한 Cloud 제품과 통신할 수 있습니다.
2. 모델 호스팅: 생성 모델을 위한 확장 가능하고 안전한 호스팅입니다.
3. 모델: 텍스트, 채팅, 이미지, 코드, 임베딩, 멀티모달을 위한 생성 모델입니다.
4. 그라운딩 솔루션: 검증 가능하고 업데이트된 정보 소스로 모델 출력을 고정합니다.
5. 데이터베이스: 애플리케이션의 데이터를 저장합니다. SQL 쿼리를 통해 프롬프트를 보강하거나 pgvector와 같은 확장 프로그램을 사용하여 데이터를 벡터 임베딩으로 저장하여 기존 데이터베이스를 그라운딩 솔루션으로 재사용할 수도 있습니다.
6. 스토리지: 이미지, 동영상, 정적 웹 프런트엔드 등의 파일을 저장합니다. 원시 그라운딩 데이터(예: PDF)는 나중에 임베딩으로 변환하여 벡터 데이터베이스에 저장할 수 있습니다.

아래 섹션에서는 사용할 Google Cloud 제품을 선택하는 데 도움이 되는 각 구성요소를 살펴봅니다.

애플리케이션 워크로드를 호스팅하고 서빙할 제품을 선택하여 생성 모델을 호출합니다.

시작하기:

• Cloud Run
• GKE
• Compute Engine

Google Cloud는 대표적인 Vertex AI 플랫폼부터 Google Kubernetes Engine의 맞춤설정 가능하고 이식 가능한 호스팅에 이르기까지 생성 모델을 호스팅하는 여러 방법을 제공합니다.

시작하기:

• Vertex AI
• Gemini Developer API
• GKE
• Compute Engine

Google Cloud는 Gemini를 포함하여 Vertex AI를 통해 최신 기반 모델 집합을 제공합니다. 또한 타사 모델을 Vertex AI Model Garden, GKE의 자체 호스팅, Cloud Run 또는 Compute Engine에 배포할 수 있습니다.

시작하기:

• Gemini
• Codey
• Imagen
• text-embedding
• Vertex AI Model Garden(오픈소스 모델)
• HuggingFace Model Hub(오픈소스 모델)

정보에 입각하고 정확한 모델 응답을 보장하기 위해서 생성형 AI 애플리케이션을 실시간 데이터로 그라운딩할 수 있습니다. 이를 검색 증강 생성(RAG)이라고 합니다.

유사성 검색과 같은 작업에 최적화된 형식인 벡터 데이터베이스에서 자체 데이터로 그라운딩을 구현할 수 있습니다. Google Cloud는 다양한 사용 사례에 대해 여러 가지 벡터 데이터베이스 솔루션을 제공합니다.

참고: Cloud SQL 또는 Firestore와 같은 기존 데이터베이스를 쿼리하고 모델 프롬프트에서 결과를 사용하여 기존(벡터 이외) 데이터베이스를 그라운딩할 수도 있습니다.

시작하기:

• Vertex AI Agent Builder(이전 명칭: 엔터프라이즈 검색, 생성형 AI 앱 빌더, 검색 엔진)
• 벡터 검색(이전 명칭: Matching Engine)
• PostgreSQL용 AlloyDB
• Cloud SQL
• BigQuery

그라운딩에 자체 데이터를 단독으로 사용하거나 추가로 사용하는 대신, 그라운딩 데이터를 검색하여 모델 프롬프트를 보강하는 데 사용할 수 있는 API를 제공하는 온라인 서비스가 많습니다.

Google Cloud에서 생성형 AI 애플리케이션을 빌드하는 데 필요한 도구를 설치합니다.

프롬프팅 전략을 알아보고 다양한 모델을 실험해 봅니다.

GitHub에서 샘플을 포크하고 빌드를 시작합니다.

보안성, 효율성, 복원력, 성능, 비용 효율성이 뛰어난 생성형 AI 애플리케이션에 대한 추천 및 예시입니다.