Vertex AI에서 Veo 동영상 생성을 위한 책임감 있는 AI

Vertex AI 기반 Veo는 Google의 AI 원칙에 따라 설계되었습니다. 그러나 개발자가 Google 모델을 안전하고 책임감 있게 테스트하고 배포하는 방법을 이해하는 것이 중요합니다. 이를 지원하기 위해 Vertex AI 기반 Veo에는 고객이 사용 사례 내에서 잠재적으로 유해한 출력을 차단할 수 있도록 돕는 내장된 안전 기능이 포함되어 있습니다. 자세한 내용은 안전 필터를 참조하세요.

AI 애플리케이션을 개발할 때는 공정성, 해석 가능성, 개인 정보 보호, 보안 권장사항을 적용하는 것이 좋습니다. 자세한 내용은 사람 + AI 가이드북을 참조하세요.

안전 필터

Vertex AI 기반 Veo는 텍스트, 동영상, 이미지 등 다양한 방법으로 프롬프트를 입력받아 동영상을 생성할 수 있습니다. Veo에 제공된 프롬프트는 안전 필터 목록에 따라 평가되며, 이 목록에는 유해한 카테고리(예: violence, sexual, derogatory, toxic)가 포함됩니다. 이러한 안전 필터는 Google Cloud플랫폼 서비스이용 정책, 생성형 AI에 관한 금지된 사용 정책 또는 Google AI 원칙을 위반하는 입력 이미지나 동영상을 걸러내는 것을 목표로 합니다.

모델이 요청에 대해 The prompt couldn't be submitted 또는 it might violate our policies 같은 오류 메시지를 반환한다면, 이는 해당 입력이 안전 필터에 의해 차단되었음을 의미합니다. 요청한 개수보다 적은 동영상이 반환되는 경우, 일부 생성된 출력물이 안전 요구사항을 충족하지 못해 차단된 것입니다.

안전 필터 코드 카테고리

구성한 안전 필터에 따라 출력에 다음과 같은 안전 코드가 포함될 수 있습니다. '입력 이미지가 Vertex AI의 사용 가이드라인을 위반했기 때문에 Veo는 동영상을 생성할 수 없습니다. 오류라고 생각되면 의견을 보내주세요. 지원 코드: 15236754'

출력에 표시된 코드는 특정 유해 카테고리에 해당합니다.

다음 표에서는 지원 코드와 안전 카테고리 매핑을 보여줍니다.

지원 코드 안전 카테고리 설명
58061214
17301594 		자녀 personGeneration이 "allow_all"로 설정되지 않았거나 프로젝트가 해당 기능의 허용 목록에 포함되지 않은 경우 아동을 묘사하는 콘텐츠 생성 요청을 거부합니다.
29310472
15236754 		유명인 유명 인물의 사실적인 표현을 생성하는 요청이거나, 프로젝트가 허용 목록에 포함되지 않은 경우 요청을 거부합니다.
64151117
42237218 		동영상 안전 위반 안전 규정 위반 콘텐츠를 감지합니다.
62263041 위험한 콘텐츠 잠재적으로 위험할 수 있는 콘텐츠를 감지합니다.
57734940
22137204 		혐오 혐오 관련 주제 또는 콘텐츠를 감지합니다.
74803281
29578790
42876398 		기타 요청에서 기타 안전 문제를 감지합니다.
92201652 개인정보 신용카드 번호, 집 주소, 기타 관련 정보의 언급과 같이 텍스트에 포함된 개인 식별 정보(PII)를 감지합니다.
89371032
49114662
72817394 		금지된 콘텐츠 요청에서 금지된 콘텐츠 요청을 감지합니다.
90789179
63429089
43188360 		성 본질적으로 성적 콘텐츠를 감지합니다.
78610348 유해함 텍스트에서 유해한 주제 또는 콘텐츠를 감지합니다.
61493863
56562880 		폭력 동영상 또는 텍스트에서 폭력 관련 콘텐츠를 감지합니다.
32635315 저속함 텍스트에서 저속한 주제 또는 콘텐츠를 감지합니다.

다음 단계