RAG를 사용하여 응답 그라운딩

그라운딩은 더 신뢰할 수 있고 유용하며 사실적인 모델 응답을 생성하는 데 사용할 수 있는 기술입니다. 생성형 AI 모델 응답을 그라운딩하면 확인 가능한 정보 소스에 연결됩니다. 그라운딩을 구현하려면 일반적으로 관련 소스 데이터를 검색해야 합니다. 검색 증강 생성(RAG) 기법을 사용하는 것이 좋습니다. 검색은 일반적으로 검색엔진을 사용하여 수행되며, 검색 엔진은 소스 텍스트의 시맨틱 의미가 내장된 색인을 사용합니다.

RAG 수명 주기를 구현하는 서비스 및 구성요소 API도 있습니다(예: 혼합형 빌드를 허용하는 Vertex AI Search Builder API). 혼합형 빌드를 사용하면 다음 서비스 또는 API 중 하나를 사용하여 RAG 솔루션을 구현할 수 있습니다.

  • 그라운딩 생성 API: 이를 사용하여 그라운딩을 구현하거나 전체 RAG 수명 주기를 위해 검색 제공업체에 연결할 수 있습니다.
  • 문서 레이아웃 파서: 이 파서는 문서 이해를 위한 최상의 Document AI 및 Gemini를 나타냅니다.
  • Vertex AI 벡터 검색: 이 검색 서비스는 성능이 뛰어나며 고품질 벡터 데이터베이스를 사용합니다.
  • 그라운딩 API 확인: 이 API는 RAG 출력을 검색된 사실과 비교하고 사용자에게 응답을 반환하기 전에 모든 문이 그라운딩되었는지 확인하는 데 도움이 됩니다.

다음 단계