생성형 대체

생성형 대체 기능은 Google의 최신 생성형 대규모 언어 모델(LLM)을 사용하여 최종 사용자 입력이 양식 채우기를 위한 인텐트 또는 매개변수와 일치하지 않을 때 가상 에이전트 응답을 생성합니다.

이 기능은 LLM에 응답 방법을 알려주는 텍스트 프롬프트로 구성할 수 있습니다. 사전 정의된 텍스트 프롬프트를 사용하거나 자체 프롬프트를 추가할 수 있습니다. 사전 정의된 프롬프트를 통해 가상 에이전트는 기본적인 대화 상황을 처리할 수 있습니다. 예를 들면 다음과 같습니다.

  • 사용자에게 인사하고 작별 인사를 건넵니다.
  • 사용자가 이해하지 못하는 경우 에이전트가 말한 내용을 반복합니다.
  • 사용자가 요청하면 기다립니다.
  • 대화를 요약합니다.

흐름, 페이지 또는 매개변수 채우기 중에 사용되는 no-match 이벤트 핸들러에서 생성적 대체를 사용 설정할 수 있습니다. 일치 항목 없음 이벤트에 생성적 대체가 사용 설정된 경우 해당 이벤트가 트리거될 때마다 Dialogflow가 생성된 응답을 만들어 사용자에게 다시 알려줍니다. 응답 생성이 실패하면 일반 사전 정의된 에이전트 응답이 대신 발급됩니다.

제한사항

이 기능은 현재 Vertex AI PaLM API에서 지원하는 언어로 제공됩니다.

생성형 대체 사용 설정

에이전트에서 흐름, 페이지 또는 매개변수 fulfillment에 사용할 수 있는 no-match 이벤트 핸들러에서 생성적 대체를 사용 설정할 수 있습니다.

전체 흐름의 no-match 이벤트에 대해 생성적 대체를 사용 설정합니다.

  1. Dialogflow CX 콘솔로 이동합니다.
  2. 프로젝트를 선택합니다.
  3. 에이전트와 흐름을 선택합니다.
  4. 흐름의 시작 페이지를 펼칩니다.
  5. 이벤트 핸들러에서 sys.no-match-default를 클릭합니다.
  6. 에이전트 응답에서 생성적 대체 사용 설정을 선택합니다.
  7. 저장을 클릭합니다.

특정 no-match 이벤트에서 생성적 대체를 사용 설정합니다.

  1. 대상 No-match 이벤트 핸들러(No-match default, No-match 1 등과 같이 No-match로 시작하는 모든 이벤트)로 이동합니다.
  2. 에이전트 응답에서 생성적 대체 사용 설정을 선택합니다.
  3. 저장을 클릭합니다.

생성적 대체 구성

위에서 언급한 것처럼 생성적 대체 기능은 생성된 응답을 만들기 위해 대규모 언어 모델로 요청을 전달합니다. 요청은 자연어와 에이전트의 현재 상태 및 대화 정보가 혼합된 텍스트 프롬프트의 형태를 취합니다. 프롬프트 및 생성된 응답은 차단된 문구 목록에서 확인됩니다. 차단된 문구가 포함되어 있거나 안전하지 않은 것으로 간주되는 경우 생성에 실패하고 일반 사전 정의된 응답(동일한 fulfilment에서 에이전트가 말한 대로)이 대신 발급됩니다.

이 기능은 여러 방법으로 구성할 수 있습니다.

  1. 사전 정의된 프롬프트를 선택합니다.
  2. 커스텀 프롬프트를 정의합니다.
  3. 차단된 문구 목록에서 문구를 추가하거나 삭제합니다.

프롬프트를 만들 때 생성해야 할 컨텍스트에 대한 자연어 설명 외에 다음 자리표시자를 사용할 수도 있습니다.

용어 정의
$conversation 마지막 사용자 발화를 제외한 에이전트와 사용자 간의 대화입니다.
$last-user-utterance 마지막 사용자 발화입니다.
$flow-description 활성 흐름의 흐름 설명입니다.
$route-descriptions 활성 인텐트의 인텐트 설명입니다.

흐름과 인텐트 설명이 올바른지 확인합니다.

사전 정의된 프롬프트 선택

  1. 에이전트 설정에서 ML 탭으로 이동한 후 생성형 AI 하위 탭으로 이동합니다.
  2. 템플릿 드롭다운에서 옵션 중 하나를 선택합니다.
  3. 저장을 클릭합니다.

이 기능은 기본 템플릿(표시되지 않음)과 자신만의 프롬프트를 작성하기 위한 가이드 역할을 할 수 있는 예시 템플릿이라는 두 가지 템플릿 프롬프트를 제공합니다. 기본 템플릿을 선택하고 생성형 AI 하위 유형에 데이터 스토어 프롬프트가 표시되면 에이전트 응답에 영향을 주는 에이전트 관련 정보를 추가할 수 있습니다.

자체 프롬프트 정의

  1. 에이전트 설정에서 ML 탭으로 이동한 후 생성형 AI 하위 탭으로 이동합니다.
  2. 템플릿 드롭다운에서 + 새 템플릿을 선택합니다.
  3. 템플릿 이름을 추가합니다.
  4. 텍스트 프롬프트를 추가합니다.
  5. 저장을 누릅니다.

예시 템플릿을 수정하고 새 템플릿으로 저장하는 것으로 시작할 수도 있습니다.

  1. 템플릿 드롭다운에서 예시를 선택합니다.
  2. 수정을 클릭합니다.
  3. 템플릿 이름을 수정합니다.
  4. 텍스트 프롬프트를 수정합니다.
  5. 저장을 누릅니다.

차단된 문구 목록 수정

  1. 에이전트 설정에서 ML 탭으로 이동한 후 생성형 AI 하위 탭으로 이동합니다.
  2. 차단된 문구 섹션에서 목록을 검사, 추가 또는 목록에서 삭제합니다.
  3. 저장을 클릭합니다.

생성적 대체 테스트

생성적 대체 기능은 시뮬레이터에서 직접 테스트할 수 있습니다. no-match 이벤트가 생성형 응답을 만들도록 구성된 흐름/페이지에서 사용자 발화가 일치하지 않음으로 이어질 때마다(그리고 생성이 성공한 경우) 에이전트는 생성된 응답을 출력합니다.

Codelab

생성형 대체 Codelab도 참조하세요.