생성형 AI에서 그라운딩은 모델 출력을 확인 가능한 정보 소스에 연결하는 기능입니다. 모델에 특정 데이터 소스에 대한 액세스 권한을 제공하면 그라운딩에서 이러한 데이터에 대한 출력을 테더링하므로 콘텐츠가 조작될 가능성이 줄어듭니다. 이는 정확성과 신뢰성이 중요한 상황에서 특히 중요합니다.
그라운딩의 이점은 다음과 같습니다.
- 모델이 사실과 다른 콘텐츠를 생성하는 경우를 의미하는 모델 할루시네이션을 줄입니다.
- 데이터 소스에 대한 모델 응답을 고정합니다.
- 인용 및 신뢰도 점수를 제공하여 생성된 콘텐츠의 신뢰성과 적용 가능성을 향상시킵니다.
Vertex AI에서는 두 가지 방법으로 지원되는 모델 출력을 그라운딩할 수 있습니다.
언어 지원은 프롬프트에 지원되는 언어를 참고하세요.
Google 검색으로 그라운딩
Google 검색에서 그라운딩을 사용하면 Google 모델이 인터넷에 연결됩니다. 그라운딩되지 않은 생성형 AI 모델 응답은 학습된 패턴을 기반으로 새 콘텐츠로 간주되므로 예를 들어 프롬프트에 일기 예보 묻기와 같은 시간별 사실에 기반한 응답은 제공되지 않습니다. 인터넷에서 기존 정보와 새 정보에 액세스할 수 있으므로 그라운딩된 프롬프트는 오류가 거의 없고 인용된 소스가 포함된 미묘하고 구체적인 프롬프트 응답을 제공할 수 있습니다.
검색을 이용한 그라운딩에서는 동적 검색이 지원되어 필요할 때만 검색에 그라운딩된 결과를 생성하는 옵션이 제공됩니다. 따라서 동적 검색 구성에 따라 프롬프트에 최근 이벤트에 대한 지식이 필요한지 평가하고 검색으로 그라운딩을 사용 설정합니다. 자세한 내용은 동적 검색을 참고하세요.
다음은 그라운딩되지 않은 프롬프트 응답과 그라운딩된 응답을 비교하는 예시입니다.
| 그라운딩되지 않은 Gemini | 검색으로 그라운딩 |
|---|---|
| 프롬프트: 401k 납입액 한도는 어떻게 되나요? 응답: 2023년 401(k) 플랜 연간 납입액 한도는 2022년 $20,500에서 증가한 $22,500입니다. 50세 이상 개인의 추가 납입액은 $7,500로 유지됩니다. |
프롬프트: 401k 납입액 한도는 어떻게 되나요? 응답: 다음은 2024년 401(k) 납입액 한도가 적용되는 거래입니다. 2024년 직원 납입액 기본 한도는 $23,000입니다. 이는 2023년 $22,500에서 증가한 금액입니다. 50세 이상의 경우 추가 납입액으로 $7,500를 추가로 납입할 수 있습니다. |
- 검색으로 그라운딩하려면 검색을 사용하여 공개 데이터로 그라운딩을 참고하세요.
검색과 함께 그라운딩을 사용하고 응답에서 추천 검색어를 수신하는 경우 프로덕션 및 애플리케이션에 추천 검색어를 표시해야 합니다. 검색으로 그라운딩을 사용할 때의 요구사항은 추천 검색어를 참고하세요.
다음 다이어그램에서는 검색으로 그라운딩이 Gemini API에서 작동하는 방식을 설명합니다.
데이터에 그라운딩
Vertex AI Search를 데이터 스토어로 사용하여 언어 모델을 텍스트 데이터에 그라운딩할 수 있습니다. Vertex AI Search를 사용하여 모델 출력을 미세 조정하려면 형식에 관계없이 데이터를 통합하면 됩니다.
데이터를 그라운딩하는 방법에 관한 자세한 내용은 데이터로 그라운딩을 참고하세요.
지원되는 데이터 유형
| 데이터 유형 | 설명 |
|---|---|
| 웹사이트 | 웹사이트의 콘텐츠를 직접 사용합니다. 웹사이트 데이터 스토어를 만들고 다음을 사용 설정해야 합니다. |
| 문서 및 파일 형식 | 지원되는 문서 유형에는 PDF, HTML, TXT, DOCX, PPTX 파일이 있습니다. FAQ에 CSV를 사용할 수 있습니다. |
예
특정 데이터로 그라운딩하면 모델이 학습 데이터 이상으로 수행할 수 있습니다. Vertex AI Search 내에서 지정된 데이터 저장소에 연결하면 그라운딩된 모델에서 더 정확하고 관련성 높은 응답과 관련 데이터 소스에 대한 인용문을 생성할 수 있습니다.
다음은 그라운딩되지 않은 프롬프트 응답과 그라운딩된 응답을 비교하는 예시입니다.
| 그라운딩되지 않은 Gemini | 비공개 그라운딩 Gemini |
|---|---|
| 프롬프트: 회사의 PTO 정책은 무엇인가요? 응답: 특정 회사의 PTO 정책에 대한 질문에 명확하게 답변할 수 없습니다. PTO 정책은 개별 회사별로 설정되며 회사 규모, 위치, 업종에 따라 다를 수 있습니다. |
프롬프트: 회사의 PTO 정책은 무엇인가요? 응답: 귀사에 무제한 PTO 정책이 있습니다. 여전히 승인이 필요합니다. 관리자는 워크로드, 적용 범위, 회사 니즈에 따라 요청을 승인하거나 거부해야 합니다.[1] 접지 소스: 1. Employee handbook.pdf |
다음 단계
- Gemini 모델을 데이터로 그라운딩하는 방법에 관한 자세한 내용은 데이터로 그라운딩을 참고하세요.
- 책임감 있는 AI 권장사항 및 Vertex AI의 안전 필터에 대해 자세히 알아보려면 책임감 있는 AI를 참고하세요.