생성형 AI에서 그라운딩은 모델 출력을 확인 가능한 정보 소스에 연결하는 기능입니다. 모델에 특정 데이터 소스에 대한 액세스 권한을 제공하면 그라운딩에서 이러한 데이터에 대한 출력을 테더링하므로 콘텐츠가 조작될 가능성이 줄어듭니다. 이는 정확성과 신뢰성이 중요한 상황에서 특히 중요합니다.
그라운딩의 이점은 다음과 같습니다.
- 모델에서 사실과 다른 콘텐츠를 생성하는 경우를 의미하는 모델 할루시네이션이 줄어듭니다.
- 특정 정보에 대한 모델 응답을 고정합니다.
- 생성된 콘텐츠의 신뢰성과 적용 가능성을 향상시킵니다.
Vertex AI에서는 두 가지 기본 방법으로 지원되는 모델 출력을 그라운딩할 수 있습니다.
Google 검색으로 그라운딩
Google 검색에서 그라운딩을 사용하면 Google 모델이 인터넷에 연결됩니다. 그라운딩되지 않은 생성형 AI 모델 응답은 학습된 패턴을 기반으로 새 콘텐츠로 간주되므로 예를 들어 프롬프트에 일기 예보 묻기와 같은 시간별 사실에 기반한 응답은 제공되지 않습니다. 인터넷에서 기존 정보와 새 정보에 액세스할 수 있으므로 그라운딩된 프롬프트는 오류가 거의 없고 인용된 소스가 포함된 미묘하고 구체적인 프롬프트 응답을 제공할 수 있습니다.
다음은 그라운딩되지 않은 프롬프트 응답과 그라운딩된 응답을 비교하는 예시입니다.
| 그라운딩되지 않은 Gemini | Google 검색으로 그라운딩 |
|---|---|
| 프롬프트: 401k 납입액 한도는 어떻게 되나요? 응답: 2023년 401(k) 플랜 연간 납입액 한도는 2022년 $20,500에서 증가한 $22,500입니다. 50세 이상 개인의 추가 납입액은 $7,500로 유지됩니다. |
프롬프트: 401k 납입액 한도는 어떻게 되나요? 응답: 다음은 2024년 401(k) 납입액 한도가 적용되는 거래입니다. 2024년 직원 납입액 기본 한도는 $23,000입니다. 이는 2023년 $22,500에서 증가한 금액입니다. 50세 이상의 경우 추가 납입액으로 $7,000를 추가로 납입할 수 있습니다.[1]...., 그라운딩 출처
|
- Google 검색으로 그라운딩하려면 Google 검색을 사용하여 공개 데이터로 그라운딩을 참조하세요.
Google 검색으로 그라운딩을 사용할 때는 프로덕션과 앱에 검색 진입점을 표시해야 합니다. Google 검색으로 그라운딩을 사용할 때의 요구사항은 검색 진입점을 참조하세요.
다음 다이어그램에서는 Google 검색으로 그라운딩이 Gemini API에서 작동하는 방식을 설명합니다.
자체 데이터로 그라운딩
Vertex AI Search를 데이터 스토어로 사용하여 언어 모델을 자체 텍스트 데이터로 그라운딩할 수 있습니다. Vertex AI Search를 사용하면 형식에 관계없이 자체 데이터를 통합하여 모델 출력을 미세 조정할 수 있습니다. 지원되는 데이터 유형은 다음과 같습니다.
- 웹사이트 데이터: 웹사이트의 콘텐츠를 직접 사용합니다.
- 구조화된 데이터: 구성되고 쿼리할 수 있는 데이터를 사용합니다(예: BigQuery 데이터).
- 구조화된 콘텐츠(미디어): 리치 결과에 구조화된 미디어 콘텐츠를 통합합니다.
- 서드 파티 데이터 소스의 구조화된 콘텐츠: 외부 소스의 데이터를 원활하게 통합합니다.
- 비정형 데이터: 형식이 지정되지 않은 원시 데이터를 활용합니다.
특정 데이터로 그라운딩하면 모델이 학습 데이터 이상으로 수행할 수 있습니다. Vertex AI Search 내에 지정된 데이터 저장소에 연결하면 그라운딩된 모델에서 더욱 정확하고 관련성 높은 응답과 사용 사례와 직접 관련된 응답을 생성할 수 있습니다.
다음은 그라운딩되지 않은 비공개 프롬프트 응답과 그라운딩된 응답을 비교하는 예시입니다.
| 그라운딩되지 않은 Gemini | 비공개 그라운딩 Gemini |
|---|---|
| 프롬프트: 회사의 PTO 정책은 무엇인가요? 응답: 특정 회사의 PTO 정책에 대한 질문에 명확하게 답변할 수 없습니다. PTO 정책은 개별 회사별로 설정되며 회사 규모, 위치, 업종에 따라 다를 수 있습니다. |
프롬프트: 회사의 PTO 정책은 무엇인가요? 응답: 귀사에 무제한 PTO 정책이 있습니다. 여전히 승인이 필요합니다. 관리자는 워크로드, 적용 범위, 회사 니즈에 따라 요청을 승인하거나 거부해야 합니다. |
- Gemini 모델을 데이터로 그라운딩하려면 데이터로 그라운딩을 참조하세요.