차단된 응답 처리

Vertex AI에서 Gemini와 상호작용할 때, 요청(프롬프트) 또는 생성된 대답이 콘텐츠 필터에 의해 차단될 수 있습니다. 이 문서에서는 이러한 차단된 응답을 식별하고 처리하는 방법을 안내합니다.

콘텐츠가 언제 차단되나요?

콘텐츠 필터가 콘텐츠를 차단하는 경우는 두 가지 시나리오가 있습니다.

  • 입력 프롬프트가 차단됨
  • 모델 응답이 차단됨

다음 섹션에서는 각 시나리오를 처리하는 방법을 설명합니다.

입력 프롬프트가 차단됨

입력 프롬프트가 모델에 전달되기 전에 콘텐츠 필터에 의해 차단되면 API 응답은 다음과 같은 특성을 보입니다.

  • promptFeedback 필드가 채워집니다. 이 필드에는 프롬프트가 차단된 이유가 포함됩니다.
  • candidates 필드는 설정되지 않습니다.

모델 응답이 차단됨

모델이 응답을 생성했지만 그 응답이 콘텐츠 필터에 의해 차단된 경우 API 응답은 다음과 같은 특성을 보입니다.

  • promptFeedback 필드는 설정되지 않습니다.
  • candidates 필드가 설정되며, 다음 특성을 가집니다.
    • content 필드는 설정되지 않습니다.
    • finishReason 필드가 설정되며, 응답 생성이 중지된 이유를 나타냅니다.

API 응답에서 이러한 필드를 확인하여 콘텐츠가 차단된 이유를 알 수 있습니다.

다음 단계