맞춤 프리앰블 정보

이 페이지에서는 커스텀 프리앰블과, 프리앰블을 작성하여 생성된 답변의 품질을 개선하는 방법을 설명합니다.

프리앰블은 입력 문서를 처리하기 전에 LLM의 초기 컨텍스트와 기대치를 설정합니다. 프리앰블은 생성된 요약의 품질에 영향을 미칩니다. answer 메서드를 호출할 때마다 기본 프리앰블이 제공됩니다. 그러나 기본값을 사용하는 대신 자체 프리앰블을 지정할 수 있습니다.

답변 메서드 호출에서 프리앰블을 지정하는 방법에 관한 안내는 커스텀 프리앰블 지정을 참고하세요.

예를 들어 다음과 같은 작업을 위해 프리앰블을 사용할 수 있습니다.

  • 모델에서 사용할 수 있는 단어와 사용할 수 없는 단어를 지정합니다.

  • 집중할 주제나 피해야 할 주제를 지정합니다.

  • 응답의 스타일, 어조, 형식을 지정합니다.

프리앰블을 조정하면 요약의 품질을 크게 개선할 수 있습니다.

프리앰블은 두 부분으로 구성되어야 합니다.

작업 설명의 예시

다음은 작업 설명의 예입니다. 직원이 회사 문서가 많이 포함된 데이터 스토어에서 답변을 원하는 시나리오를 생각해 보겠습니다.

예 1

출처를 포괄적으로 인용하는 작업 설명:

Given a user query and a list of sources, write a response that cites individual
sources as comprehensively as possible.

예 2

사용자를 이해하고 유용성에 중점을 두는 작업 설명:

You are an enterprise LLM summarization tool. Your task is to understand the
true intent of a user question in the context of enterprise search and
summarization, and provide a helpful answer to the user's question.

예 3

고객과 어시스턴트 간의 대화를 요약하는 작업 설명:

Given the conversation between a customer and a helpful assistant with some
search results, create a final answer for the assistant.

추가 안내의 예시 및 도움말

추가 안내는 구체적인 주요 요구사항을 포함해야 합니다.

다음 표에는 작업 설명 뒤에 제공할 수 있는 추가 안내의 예, 각 예시에서 다루는 문제 유형, 프리앰블이 문제를 해결하는 이유가 나와 있습니다.

해결해야 할 문제 솔루션 예시
비즈니스 요구사항에 맞게 답변을 더 조정해야 함 요약이 특정 사용 사례 및 대상 사용자에게 맞게 조정될 수 있도록 추가 컨텍스트와 안내를 제공합니다.

예 1

Utilize the specific context of the workspace (e.g. meeting notes, public guidance, FAQ) to provide more accurate and relevant summaries.

예 2

Summarize customer feedback, focusing on their pain points, feature request and overall satisfaction. Highlight any actionable insights that can help improve our product or service.

예 3

For input documents of troubleshooting website, please summary the problem statement, step-by-step solutions and any relevant tips or warnings.

예 4

"XYZ" is an internal forum for engineers to discuss technical problems, you can use it to summarize technical issues, proposed solutions and any unresolved challenges or next steps identified in the discussion.
답변은 특정 형식이어야 합니다. 스타일이나 어조와 대상층을 명확하게 지정합니다.

예 1

Summarize troubleshooting guide for customer support agent in a clear and concise manner. The summary should be easy for a non-technical user to understand.

예 2

Summarize the technical documents for engineers. Focus on the core functionality, system architecture, and potential challenges.
답변이 특정 형식이어야 합니다. 출력 형식 지정

예 1

Use bullet points for steps, numbered lists for rankings, tables for comparisons, code block for coding example

예 2

Summarize the key takeaways in a numbered lists
답변은 짧아야 합니다. '간결한' 또는 '요약된' 요약을 생성하도록 LLM에 명시적으로 지시합니다. 해당하는 경우 단어 또는 문장 수를 지정할 수도 있습니다.

예 1

Please keep summaries concise and focused, providing only the most essential information to address the user's query.

예 2

The answer should be less than 200 words.
답변이 더 포괄적이어야 함 LLM이 주요 세부정보와 중요한 사항을 포함하도록 독려합니다.

예

Please ensure key details are included.
금지된 주제 포함 특정 상황에서 모델이 어떻게 응답해야 하는지 정의합니다.

예

For political questions, the most helpful way is to politely refuse to answer the question.
할루시네이션 (잘못된 정보) 감소 정확성의 중요성을 강조하고 LLM에 텍스트에 표시된 정보를 엄격하게 준수하도록 지시합니다.

예 1

Keep the summary accurate, ensuring all claims are verifiable within the given context.

예 2

Use exact words from the context if possible.

전체 프리앰블의 예시

다음은 작업 설명과 추가 안내로 구성된 전체 프리앰블의 몇 가지 예시입니다.

예 1

간결하고 정확하며 관련성 높은 요약을 요청하고 사용자 친화적인 형식으로 제공합니다.

You are an enterprise LLM summarization tool. Your task is to understand the
true intent of a user question in the context of enterprise search and
summarization, and provide a helpful answer to the user's question.  Please keep
summaries concise and focused, providing only the most essential information to
address the user's query.

Please also structure and format the summary by

1) prioritize most relevant and accurate information to user's question

2) highlight critical information

3) structure the response and adapt the formatting to be user friendly (e.g.,
use bullet points for steps, numbered lists for rankings, tables for
comparisons, code block for coding example, etc).

예 2

대화를 바탕으로 고객의 문의에 대해 간결하고 친절하며 유용한 최종 답변을 제공합니다.

Given the conversation between a customer and a helpful assistant with some
search results, create a final answer for the assistant.

The answer should addresses the query accurately and concisely (less than 10
sentences), while also being friendly and helpful. If the search results don't
provide enough information to fully answer the question, suggest additional
resources or steps the customer can take.

예 3

포괄적이고 이해하기 쉬운 답변을 제공하고 제공된 출처를 인용합니다. 정치적인 질문에 대해서는 정중하게 답변을 거부합니다.

Given a user query and a list of sources, write a response that cites individual
sources as comprehensively as possible.

The response should be suitable for a non-expert audience.

For political questions, the response should be a polite refusal to answer the
question.

권장사항

다음은 프리앰블 작성 및 조정에 관한 권장사항입니다.

  • 반복적인 미세 조정: 다양한 프리앰블을 실험하고 대답 품질에 미치는 영향을 관찰합니다.

  • 사용자 의견: 사용자로부터 의견을 수집하여 반복되는 문제와 개선이 필요한 영역을 파악합니다.

  • 최신 정보 유지: 프리앰블 미세 조정의 효과는 모델 버전과 문서 특성에 따라 다를 수 있습니다. 최적의 결과를 얻기 위해 지속적으로 실험하고 접근 방식을 미세 조정합니다.

  • 철저한 평가: 의도된 모든 사용 사례에서 수정된 프리앰블을 확인하면 특정 시나리오에서 요약 품질에 부정적인 영향을 미칠 수 있는 잠재적 편향이나 예상치 못한 동작을 식별하고 완화하는 데 도움이 됩니다.