다음과 같은 데이터 스토어 에이전트 설정을 사용할 수 있습니다.
그라운딩
연결된 데이터 스토어의 콘텐츠에서 생성된 각 응답에 대해 신뢰도 수준이 계산됩니다. 신뢰도 수준은 응답의 모든 정보가 데이터 스토어의 정보에서 지원된다는 신뢰도를 측정합니다. 허용되는 최저 신뢰도 수준을 선택하면 에이전트는 이 수준보다 낮은 신뢰도의 응답을 반환하지 않습니다.
매우 낮음, 낮음, 중간, 높음, 매우 높음 등 5가지 신뢰도 수준 중에서 선택할 수 있습니다.
그라운딩 휴리스틱 필터를 적용할 수도 있습니다. 이 필터를 사용 설정하면 일반적인 할루시네이션에 따라 부정확할 수 있는 콘텐츠가 포함된 응답이 억제됩니다.
데이터 스토어 프롬프트
에이전트에 대한 추가 정보를 추가하여 데이터 스토어 콘텐츠에서 생성된 답변의 품질을 개선하고 브랜드와 더 비슷한 느낌을 받도록 할 수 있습니다.
- 에이전트 이름 - 에이전트에서 스스로 지칭하는 이름입니다. 설정하지 않은 상태로 두면 기본값인 AI 어시스턴트가 사용됩니다.
- 에이전트 ID - 상담사의 페르소나입니다. 설정하지 않은 상태로 두면 기본값인 AI 어시스턴트가 사용됩니다.
- 회사 이름: 회사 이름으로 설정합니다. 이미 에이전트 만들기 흐름의 일부로 설정되어 있어야 하지만 필요에 따라 조정할 수 있습니다. 생성된 답변의 품질이 저하되지 않도록 이 필드를 올바르게 설정하고 특히 비워 두지 않는 것이 좋습니다.
- 회사 설명 회사에서 수행하거나 제공하는 업무에 대한 간단한 설명입니다.
- 에이전트 범위 - 에이전트가 사용되는 위치입니다. 설정하지 않으면 회사 웹사이트의 기본값이 사용됩니다.
이 섹션을 일부 또는 전부 작성했으면 오른쪽 프롬프트 아래에서 이러한 설정에서 파생된 짧은 단락을 검사할 수 있습니다. 이것이 답변 생성의 일부로 사용됩니다.
데이터 스토어 모델 선택 및 요약 프롬프트
사용자 쿼리가 처리되면 에이전트는 데이터 스토어를 검색하여 적절한 소스를 찾습니다. 그런 다음 에이전트가 사용자 쿼리와 발견된 소스를 LLM으로 전송하여 요약을 수행합니다.
요약에 사용할 모델을 선택하고 자체 프롬프트를 선택적으로 제공할 수 있습니다.
생성 모델 선택
요약 생성 요청에 데이터 스토어 에이전트에서 사용되는 생성 모델을 선택할 수 있습니다. 사용 가능한 옵션은 다음 표에 나와 있습니다.
모델 식별자 | 언어 지원 |
---|---|
기본값 | 이는 현재 권장되는 구성으로서 시간이 지나면 변경될 수 있습니다. 이 옵션을 사용하면 에이전트 동작이 변경(개선 등)될 수 있습니다. 에이전트 동작 일관성을 높이려면 특정 모델을 선택합니다. |
text-bison@002 | 지원되는 모든 언어로 사용 가능합니다. |
gemini-1.0-pro-001 | 지원되는 모든 언어로 사용 가능합니다. |
gemini-1.5-flash-001 | 지원되는 모든 언어로 사용 가능합니다. |
요약 프롬프트 맞춤설정
요약 LLM 호출에 대한 자체 프롬프트를 제공할 수 있습니다. 프롬프트는 사전 정의된 자리표시자가 포함될 수 있는 텍스트 템플릿입니다. 런타임 시 자리표시자가 적절한 값으로 대체되고 최종 텍스트가 LLM으로 전송됩니다.
자리표시자는 다음과 같습니다.
$original-query
: 사용자의 쿼리 텍스트입니다.$rewritten-query
: Dialogflow는 재작성기 모듈을 사용하여 원래 사용자 쿼리를 더 정확한 형식으로 다시 작성합니다.$sources
: Dialogflow는 엔터프라이즈 검색을 사용하여 사용자의 쿼리를 기반으로 소스를 검색합니다. 발견된 소스는 특정 형식으로 렌더링됩니다.[1] title of first source content of first source [2] title of second source content of second source
$end-user-metadata
: 쿼리를 전송하는 사용자에 대한 정보는 다음 형식으로 렌더링됩니다.The following additional information is available about the human: { "key1": "value1", "key2": "value2", ... }
$conversation
: 대화 기록은 다음 형식으로 렌더링됩니다.Human: user's first query AI: answer to user's first query Human: user's second query AI: answer to user's second query
${conversation USER:"<user prefix>" AI:"<agent prefix>" TURNS:<turn count>}
:$conversation
자리표시자의 파라미터화된 버전입니다. 최종 사용자 프리픽스(USER
), 에이전트 프리픽스(AI
), 포함할 이전 차례 횟수(TURNS
)를 맞춤설정할 수 있습니다. 모든 자리표시자 매개변수 값을 지정해야 합니다.예를 들면
${conversation USER:"Human says:" AI:"Agent says:" TURNS:1}
입니다. 대화 기록은 다음과 같이 렌더링됩니다.Human says: user's first query Agent says: answer to user's first query
커스텀 프롬프트는 답변을 제공할 수 없을 때 'NOT_ENOUGH_INFORMATION'을 반환하도록 LLM에 지시해야 합니다. 이 경우 에이전트는 일치 항목 없음 이벤트를 호출합니다.
예를 들면 다음과 같습니다.
Given the conversation between a Human and a AI assistant and a list of sources,
write a final answer for the AI assistant.
Follow these guidelines:
+ Answer the Human's query and make sure you mention all relevant details from
the sources, using exactly the same words as the sources if possible.
+ The answer must be based only on the sources and not introduce any additional
information.
+ All numbers, like price, date, time or phone numbers must appear exactly as
they are in the sources.
+ Give as comprehensive answer as possible given the sources. Include all
important details, and any caveats and conditions that apply.
+ The answer MUST be in English.
+ Don't try to make up an answer: If the answer cannot be found in the sources,
you admit that you don't know and you answer NOT_ENOUGH_INFORMATION.
You will be given a few examples before you begin.
Example 1:
Sources:
[1] <product or service> Info Page
Yes, <company> offers <product or service> in various options or variations.
Human: Do you sell <product or service>?
AI: Yes, <company> sells <product or service>. Is there anything else I can
help you with?
Example 2:
Sources:
[1] Andrea - Wikipedia
Andrea is a given name which is common worldwide for both males and females.
Human: How is the weather?
AI: NOT_ENOUGH_INFORMATION
Begin! Let's work this out step by step to be sure we have the right answer.
Sources:
$sources
$end-user-metadata
$conversation
Human: $original-query
AI:
데이터 스토어 대체
이 섹션에는 다음과 같은 설정이 있습니다.
- 대체 링크: 에이전트에서 답변을 생성하지 못하면 가장 적절한 링크를 표시합니다.
- 생성형 AI 사용 설정: 결과를 생성할 때 데이터 스토어가 생성형 AI를 사용하도록 허용합니다.