데이터 스토어 에이전트 설정

다음과 같은 에이전트 설정을 사용할 수 있습니다.

그라운딩

연결된 데이터 스토어의 콘텐츠에서 생성된 각 응답에 대해 신뢰도 수준이 계산됩니다. 신뢰도 수준은 응답의 모든 정보가 데이터 스토어의 정보에서 지원된다는 신뢰도를 측정합니다. 허용되는 최저 신뢰도 수준을 선택하면 에이전트는 이 수준보다 낮은 신뢰도의 응답을 반환하지 않습니다.

매우 낮음, 낮음, 중간, 높음, 매우 높음 등 5가지 신뢰도 수준 중에서 선택할 수 있습니다.

그라운딩 휴리스틱 필터를 적용할 수도 있습니다. 이 필터를 사용 설정하면 일반적인 할루시네이션에 따라 부정확할 수 있는 콘텐츠가 포함된 응답이 억제됩니다.

데이터 스토어 프롬프트

에이전트에 대한 추가 정보를 추가하여 데이터 스토어 콘텐츠에서 생성된 답변의 품질을 개선하고 브랜드와 더 비슷한 느낌을 받도록 할 수 있습니다.

  • 에이전트 이름 - 에이전트에서 스스로 지칭하는 이름입니다. 설정하지 않은 상태로 두면 기본값인 AI 어시스턴트가 사용됩니다.
  • 에이전트 ID - 상담사의 페르소나입니다. 설정하지 않은 상태로 두면 기본값인 AI 어시스턴트가 사용됩니다.
  • 회사 이름: 회사 이름으로 설정합니다. 이미 에이전트 만들기 흐름의 일부로 설정되어 있어야 하지만 필요에 따라 조정할 수 있습니다. 생성된 답변의 품질이 저하되지 않도록 이 필드를 올바르게 설정하고 특히 비워 두지 않는 것이 좋습니다.
  • 회사 설명 회사에서 수행하거나 제공하는 업무에 대한 간단한 설명입니다.
  • 에이전트 범위 - 에이전트가 사용되는 위치입니다. 설정하지 않으면 회사 웹사이트의 기본값이 사용됩니다.

이 섹션을 일부 또는 전부 작성했으면 오른쪽 프롬프트 아래에서 이러한 설정에서 파생된 짧은 단락을 검사할 수 있습니다. 이것이 답변 생성의 일부로 사용됩니다.

데이터 스토어 모델 선택 및 요약 프롬프트

사용자 쿼리가 처리되면 에이전트는 데이터 스토어를 검색하여 적절한 소스를 찾습니다. 그런 다음 에이전트가 사용자 쿼리와 발견된 소스를 LLM으로 전송하여 요약을 수행합니다.

요약에 사용할 모델을 선택하고 자체 프롬프트를 선택적으로 제공할 수 있습니다.

생성 모델 선택

요약 생성 요청에 데이터 스토어 에이전트에서 사용되는 생성 모델을 선택할 수 있습니다. 사용 가능한 옵션은 다음 표에 나와 있습니다.

모델 식별자 언어 지원
기본값 이는 현재 권장되는 구성으로서 시간이 지나면 변경될 수 있습니다. 이 옵션을 사용하면 에이전트 동작이 변경(개선 등)될 수 있습니다. 에이전트 동작 일관성을 높이려면 특정 모델을 선택합니다.
gemini-1.0-pro-001 지원되는 모든 언어로 사용 가능합니다.
gemini-1.5-flash-001 지원되는 모든 언어로 사용 가능합니다.
gemini-1.5-flash-002 지원되는 모든 언어로 사용 가능합니다.

요약 프롬프트 맞춤설정

요약 LLM 호출에 대한 자체 프롬프트를 제공할 수 있습니다. 프롬프트는 사전 정의된 자리표시자가 포함될 수 있는 텍스트 템플릿입니다. 런타임 시 자리표시자가 적절한 값으로 대체되고 최종 텍스트가 LLM으로 전송됩니다.

자리표시자는 다음과 같습니다.

  • $original-query: 사용자의 쿼리 텍스트입니다.
  • $rewritten-query: Dialogflow는 재작성기 모듈을 사용하여 원래 사용자 쿼리를 더 정확한 형식으로 다시 작성합니다.

  • $sources: Dialogflow는 엔터프라이즈 검색을 사용하여 사용자의 쿼리를 기반으로 소스를 검색합니다. 발견된 소스는 특정 형식으로 렌더링됩니다.

    [1] title of first source
content of first source
[2] title of second source
content of second source

  • $end-user-metadata: 쿼리를 전송하는 사용자에 대한 정보는 다음 형식으로 렌더링됩니다.

    The following additional information is available about the human: {
"key1": "value1",
"key2": "value2",
...
}

  • $conversation: 대화 기록은 다음 형식으로 렌더링됩니다.

    Human: user's first query
AI: answer to user's first query
Human: user's second query
AI: answer to user's second query

  • ${conversation USER:"<user prefix>" AI:"<agent prefix>" TURNS:<turn count>}: $conversation 자리표시자의 파라미터화된 버전입니다. 최종 사용자 프리픽스(USER), 에이전트 프리픽스(AI), 포함할 이전 차례 횟수(TURNS)를 맞춤설정할 수 있습니다. 모든 자리표시자 파라미터 값을 지정해야 합니다.

    예를 들면 ${conversation USER:"Human says:" AI:"Agent says:" TURNS:1}입니다. 대화 기록은 다음과 같이 렌더링됩니다.

    Human says: user's first query
Agent says: answer to user's first query

커스텀 프롬프트는 답변을 제공할 수 없을 때 'NOT_ENOUGH_INFORMATION'을 반환하도록 LLM에 지시해야 합니다. 이 경우 에이전트는 일치 항목 없음 이벤트를 호출합니다.

예를 들면 다음과 같습니다.

Given the conversation between a Human and a AI assistant and a list of sources,
write a final answer for the AI assistant.
Follow these guidelines:
+   Answer the Human's query and make sure you mention all relevant details from
  the sources, using exactly the same words as the sources if possible.
+   The answer must be based only on the sources and not introduce any additional
  information.
+   All numbers, like price, date, time or phone numbers must appear exactly as
  they are in the sources.
+   Give as comprehensive answer as possible given the sources. Include all
  important details, and any caveats and conditions that apply.
+   The answer MUST be in English.
+   Don't try to make up an answer: If the answer cannot be found in the sources,
  you admit that you don't know and you answer NOT_ENOUGH_INFORMATION.
You will be given a few examples before you begin.

Example 1:
Sources:
[1] <product or service> Info Page
Yes, <company> offers <product or service> in various options or variations.

Human: Do you sell <product or service>?
AI: Yes, <company> sells <product or service>. Is there anything else I can
help you with?

Example 2:
Sources:
[1] Andrea - Wikipedia
Andrea is a given name which is common worldwide for both males and females.

Human: How is the weather?
AI: NOT_ENOUGH_INFORMATION

Begin! Let's work this out step by step to be sure we have the right answer.

Sources:
$sources

$end-user-metadata
$conversation
Human: $original-query
AI:

데이터 스토어 대체

이 섹션에는 다음과 같은 설정이 있습니다.

  • 대체 링크: 에이전트에서 답변을 생성하지 못하면 가장 적절한 링크를 표시합니다.
  • 생성형 AI 사용 설정: 결과를 생성할 때 데이터 스토어가 생성형 AI를 사용하도록 허용합니다.
이전
데이터 스토어 핸들러
다음
데이터 스토어 성능 개선