차단된 응답 처리

Vertex AI에서 Gemini와 상호작용할 때 요청(프롬프트) 또는 생성된 대답이 콘텐츠 필터에 의해 차단될 수 있습니다. 이 문서에서는 차단된 응답을 식별하고 처리하는 방법을 안내합니다.

콘텐츠가 차단되는 시점

콘텐츠 필터가 콘텐츠를 차단하는 두 가지 시나리오가 있습니다.

  • 입력 프롬프트가 차단됩니다.
  • 모델의 대답이 차단되었습니다.

다음 섹션에서는 각 시나리오를 처리하는 방법을 설명합니다.

입력 프롬프트가 차단됨

입력 프롬프트가 모델에 전송되기 전에 콘텐츠 필터에 의해 차단되면 API 응답에 다음과 같은 특징이 나타납니다.

  • promptFeedback 필드가 채워집니다. 이 필드에는 프롬프트가 차단된 이유에 관한 정보가 포함됩니다.
  • candidates 필드가 설정되지 않았습니다.

모델의 대답이 차단됨

모델이 대답을 생성했지만 콘텐츠 필터에 의해 차단된 경우 API 응답에는 다음과 같은 특징이 있습니다.

  • promptFeedback 필드가 설정되지 않았습니다.
  • candidates 필드는 다음 특성으로 설정됩니다.
    • content 필드가 설정되지 않았습니다.
    • finishReason 필드가 설정되어 응답 생성이 중지된 이유를 나타냅니다.

API 응답에서 이러한 필드를 검사하여 콘텐츠가 차단된 이유를 확인할 수 있습니다.

다음 단계