책임감 있는 AI 안전 설정 구성

이미지 생성 사용해 보기(Vertex AI Studio)

Colab에서 Imagen 사용해 보기

이 페이지에서는 Vertex AI 기반 Imagen에서 책임감 있는 AI (RAI) 필터를 설정하는 방법을 설명합니다.

Vertex AI 모델의 Imagen에서 사용할 수 있는 RAI 필터링 매개변수는 여러 가지가 있습니다. 예를 들어 모델에서 차단된 콘텐츠의 RAI 필터 코드를 보고하거나 RAI 필터를 사용하여 사람 또는 얼굴 생성을 중지하거나 콘텐츠 필터링 수준을 설정하거나 입력과 출력에 대한 안전 속성 목록의 반올림된 RAI 점수를 반환할 수 있습니다.

사용할 수 있는 설정은 사용하는 Imagen 모델 버전에 따라 다릅니다. 자세한 내용은 Imagen 모델API 참조를 참고하세요.

RAI에 관한 자세한 내용은 책임감 있는 AI 및 Imagen 사용 가이드라인을 참고하세요.

RAI 매개변수 설정

다음 단계를 따르세요.

콘솔

  1. Google Cloud 콘솔에서 Vertex AI > Media Studio 페이지로 이동합니다.

    Media Studio로 이동

  2. Imagen을 클릭합니다. Imagen Media Studio 이미지 생성 페이지가 표시됩니다.

  3. 설정 패널에서 다음 옵션을 조정합니다.

    • 모델: 사용 가능한 옵션 중에서 모델을 선택합니다.

      사용 가능한 모델에 대한 자세한 내용은 Imagen 모델을 참조하세요.

    • 결과 수: 슬라이더를 조정하거나 1~4 사이의 값을 입력합니다.

  4. 안전 섹션에서 다음 설정을 구성합니다.

    • 다음 인물 생성 설정 중 하나를 선택합니다.

      • 허용 (성인만 해당): 성인이나 성인 얼굴만 생성합니다. 청소년 또는 아동이나 청소년 또는 아동의 인물을 생성하지 마세요.
      • 허용 (모든 연령): 모든 연령의 사람이나 얼굴을 생성합니다.
      • 허용 안함: 사람이나 얼굴을 생성하지 않습니다.
    • 다음 안전 필터 기준점 설정 중 하나를 선택합니다.

      • 대부분 차단: 유해한 콘텐츠를 대부분 차단합니다.
      • 일부 차단: 문제가 있는 일부 프롬프트와 대답을 차단합니다.
      • 소수만 차단: 문제가 있는 프롬프트와 응답을 거의 차단하지 않습니다.
  5. 프롬프트 작성 상자에 생성할 이미지를 설명하는 텍스트 프롬프트를 입력합니다. 예를 들면 아침 물 위에 떠 있는 작은 배 수채화 이미지입니다.

  6. 생성을 클릭합니다.

REST

요청 데이터를 사용하기 전에 다음을 바꿉니다.

  • PROJECT_ID: Google Cloud 프로젝트 ID
  • LOCATION: 프로젝트의 리전. 예를 들면 us-central1, europe-west2, asia-northeast3입니다. 사용 가능한 리전 목록은 Vertex AI의 생성형 AI 위치를 참조하세요.
  • TEXT_PROMPT: 모델이 생성하는 이미지를 안내하는 텍스트 프롬프트. 이 필드는 생성 및 수정 모두에서 필요합니다.
  • IMAGE_COUNT: 생성된 이미지의 수입니다. 허용되는 정수 값은 1~8(imagegeneration@002), 1~4(기타 모든 모델 버전)입니다. 기본값: 4.
  • SAFETY_SETTING: 문자열입니다. (선택사항) 생성된 이미지의 안전 필터 기준점을 제어하는 설정입니다. 사용 가능한 값은 다음과 같습니다.
    • block_low_and_above: 가장 높은 안전 기준점으로, 필터링되어 생성된 이미지 수가 가장 많습니다. 이전 값은 block_most입니다.
    • block_medium_and_above(기본값): 잠재적으로 유해하고 안전한 콘텐츠에 대한 필터링의 균형을 맞추는 중간 안전 기준점입니다. 이전 값은 block_some입니다.
    • block_only_high: 안전 필터로 인해 차단된 요청 수를 줄이는 안전 기준점입니다. 이 설정으로 인해 Imagen에서 불쾌감을 주는 콘텐츠를 많이 생성할 수 있습니다. 이전 값은 block_few입니다.
  • PERSON_SETTING: 문자열입니다. (선택사항) 모델에서 허용하는 사람 유형이나 얼굴 생성 유형을 제어하는 안전 설정입니다. 사용 가능한 값은 다음과 같습니다.
    • allow_adult(기본값): 유명인 생성을 제외하고 성인만 생성합니다. 어떤 설정에서도 유명인은 생성되지 않습니다.
    • dont_allow: 생성된 이미지에 사람이나 얼굴이 포함되지 않습니다.
  • INCLUDE_RAI_REASON: 불리언입니다. (선택사항) 차단된 입력이나 출력이 있는 응답에서 책임감 있는 AI 필터링된 이유 코드를 사용 설정할지 여부입니다. 기본값은 true입니다.
  • INCLUDE_SAFETY_ATTRIBUTES: 불리언입니다. (선택사항) 필터링되지 않은 입력 및 출력에 대한 응답에서 안전 속성 목록에 대해 반올림된 책임감 있는 AI 점수를 사용 설정할지 여부입니다. 안전 속성 카테고리에는 "Death, Harm & Tragedy", "Firearms & Weapons", "Hate", "Health", "Illicit Drugs", "Politics", "Porn", "Religion & Belief", "Toxic", "Violence", "Vulgarity", "War & Conflict" 등이 있습니다. 기본값은 false입니다.

HTTP 메서드 및 URL:

POST https://LOCATION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/publishers/google/models/imagegeneration@006:predict

JSON 요청 본문:

{
  "instances": [
    {
      "prompt": "TEXT_PROMPT"
    }
  ],
  "parameters": {
    "sampleCount": IMAGE_COUNT,
    "safetySetting": "SAFETY_SETTING",
    "personGeneration": "PERSON_SETTING",
    "includeRaiReason": INCLUDE_RAI_REASON,
    "includeSafetyAttributes": INCLUDE_SAFETY_ATTRIBUTES
  }
}

요청을 보내려면 다음 옵션 중 하나를 선택합니다.

curl

요청 본문을 request.json 파일에 저장하고 다음 명령어를 실행합니다.

curl -X POST \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json; charset=utf-8" \
-d @request.json \
"https://LOCATION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/publishers/google/models/imagegeneration@006:predict"

PowerShell

요청 본문을 request.json 파일에 저장하고 다음 명령어를 실행합니다.

$cred = gcloud auth print-access-token
$headers = @{ "Authorization" = "Bearer $cred" }

Invoke-WebRequest `
-Method POST `
-Headers $headers `
-ContentType: "application/json; charset=utf-8" `
-InFile request.json `
-Uri "https://LOCATION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/publishers/google/models/imagegeneration@006:predict" | Select-Object -Expand Content
가져오는 응답은 설정한 안전 설정에 따라 달라집니다. 자세한 내용은 Imagen의 책임감 있는 AI(RAI) 이해 및 구성을 참조하세요.

다음 단계