Vertex AI에서 Gemini와 상호작용할 때 요청(프롬프트) 또는 생성된 대답이 콘텐츠 필터에 의해 차단될 수 있습니다. 이 문서에서는 차단된 응답을 식별하고 처리하는 방법을 안내합니다.
콘텐츠가 차단되는 시점
콘텐츠 필터가 콘텐츠를 차단하는 두 가지 시나리오가 있습니다.
- 입력 프롬프트가 차단됩니다.
- 모델의 대답이 차단되었습니다.
다음 섹션에서는 각 시나리오를 처리하는 방법을 설명합니다.
입력 프롬프트가 차단됨
입력 프롬프트가 모델에 전송되기 전에 콘텐츠 필터에 의해 차단되면 API 응답에 다음과 같은 특징이 나타납니다.
promptFeedback
필드가 채워집니다. 이 필드에는 프롬프트가 차단된 이유에 관한 정보가 포함됩니다.candidates
필드가 설정되지 않았습니다.
모델의 대답이 차단됨
모델이 대답을 생성했지만 콘텐츠 필터에 의해 차단된 경우 API 응답에는 다음과 같은 특징이 있습니다.
promptFeedback
필드가 설정되지 않았습니다.candidates
필드는 다음 특성으로 설정됩니다.content
필드가 설정되지 않았습니다.finishReason
필드가 설정되어 응답 생성이 중지된 이유를 나타냅니다.
API 응답에서 이러한 필드를 검사하여 콘텐츠가 차단된 이유를 확인할 수 있습니다.
다음 단계
- 콘텐츠 필터를 구성하는 방법을 알아보세요.