Vertex AI の Gemini を操作する際、リクエスト（プロンプト）または生成されたレスポンスがコンテンツ フィルタによってブロックされることがあります。このドキュメントでは、ブロックされたレスポンスを特定して処理する方法について説明します。
コンテンツがブロックされるタイミング
コンテンツ フィルタによってコンテンツがブロックされるシナリオは 2 つあります。
- 入力プロンプトがブロックされています。
- モデルのレスポンスがブロックされます。
以降のセクションでは、各シナリオの処理方法について説明します。
入力プロンプトがブロックされている
入力プロンプトがモデルに送信される前にコンテンツ フィルタによってブロックされる場合、API レスポンスには次の特徴があります。
promptFeedbackフィールドが入力されます。このフィールドには、プロンプトがブロックされた理由に関する情報が含まれます。candidatesフィールドが設定されていません。
モデルのレスポンスがブロックされている
モデルがレスポンスを生成しても、そのレスポンスがコンテンツ フィルタによってブロックされた場合、API レスポンスは次の特性を示します。
promptFeedbackフィールドが設定されていません。candidatesフィールドは、次の特性で設定されます。contentフィールドが設定されていません。finishReasonフィールドが設定され、レスポンスの生成が停止した理由が示されます。
コンテンツがブロックされた理由を特定するには、API レスポンスでこれらのフィールドを調べます。
次のステップ
- コンテンツ フィルタを設定する方法をご確認ください。