AI Explanations는 이미지 데이터에 내장된 시각화 기능을 제공합니다. 시각화가 구성된 이미지 분류 모델에 대한 설명을 요청하면 예측에 기여한 픽셀 또는 리전을 나타내는 이미지 오버레이와 함께 예측 클래스가 생성됩니다.
아래 이미지는 허스키 이미지의 시각화를 보여줍니다. 왼쪽 시각화는 통합 그라디언트 메서드를 사용하고 포지티브 기여 분석 영역을 강조표시합니다. 오른쪽 시각화는 포지티브 예측을 할 때 더 적은 영역(파란색) 및 더 큰 영역(노란색)을 나타내는 색상 그라디언트와 함께 XRAI 메서드를 사용합니다.
작업 중인 데이터 유형은 통합 그래디언트 또는 XRAI 접근방식을 사용하여 설명을 시각화하는 데 영향을 줄 수 있습니다.
- XRAI는 기본 이미지에 더 효과적이며 포지티브 기여 분석이 개 얼굴 모양과 관련이 있음을 보여주는 등 높은 수준의 통계 요약을 제공합니다.
- 통합 그라디언트(IG)는 픽셀 수준에서 세부정보를 제공하는 경향이 있으며 보다 세부적인 기여 분석에 유용합니다.
AI Explanations 개요 페이지에서 기여 분석 메서드에 대해 자세히 알아보세요.
시작하기
시각화는 설명 메타데이터 파일의 일부로 모델별로 구성됩니다.
모델에 새로운 시각화를 추가하려면 시각화할 inputs 객체 내에 visualization 객체를 포함합니다. visualization 객체에서 사용된 오버레이 유형, 강조표시된 기여 분석, 색상 등의 옵션을 포함할 수 있습니다. 모든 설정은 선택사항입니다.
동일한 모델로 다른 시각화를 만들려면 explanation_metadata.json 파일의 설정을 업데이트하고 모델을 다시 배포합니다.
시각화 옵션
기본 설정과 권장 설정은 기여 분석 메서드(통합 그라디언트 또는 XRAI)에 따라 다릅니다. 다음은 구성 옵션 목록과 사용 방법입니다. 옵션 값의 전체 목록은 API 참조를 확인하세요.
type: 사용된 시각화 유형입니다. 통합 그라디언트의 경우 기본적으로Outlines가 설정되고 기여 분석 리전을 표시하지만Pixels는 픽셀별 기여 분석을 표시합니다. XRAI의 경우Pixels가 기본 설정이며 기여 분석 영역을 표시합니다. XRAI에는Outlines를 사용하지 않는 것이 좋습니다.polarity: 강조표시된 기여 분석의 방향입니다. 기본적으로positive가 설정되어 포지티브 기여 분석이 가장 높은 영역을 강조표시합니다. 즉, 모델의 포지티브 예측에 가장 영향력 있는 픽셀을 강조표시합니다. Polarity를negative로 설정하면 모델이 포지티브 클래스를 예측하지 않도록 하는 영역을 강조표시합니다. 네거티브 polarity를 사용하면 잘못된 거짓음성 리전을 식별하여 모델을 디버깅하는 데 유용합니다. 또한 포지티브 및 네거티브 기여 분석을 모두 나타내는both로 polarity을 설정할 수도 있습니다.clip_above_percentile: 강조표시된 영역에서 지정된 백분위수 위의 기여 분석을 제외합니다. 클립 매개변수를 함께 사용하면 노이즈를 필터링하고 강력한 기여 분석 영역을 더 쉽게 볼 수 있습니다.clip_below_percentile: 강조표시된 영역에서 지정된 백분위수 아래의 기여 분석을 제외합니다.color_map: 강조표시된 영역에 사용된 색 구성표입니다. 통합 그래디언트의 경우 기본값은pink_green으로, 포지티브 기여 분석은 녹색으로 표시되고 네거티브 기여 분석은 핑크색으로 표시됩니다. XRAI 시각화의 경우 색상 척도는 그라디언트입니다. XRAI 기본값은viridis으로, 가장 영향력이 큰 리전은 노란색으로, 가장 영향력이 적은 리전은 파란색으로 강조표시됩니다.overlay_type: 시각화에 원본 이미지가 표시되는 방식입니다. 원본 이미지로 시각화를 보기가 어려울 경우 오버레이를 조정하면 시각적 선명도를 높일 수 있습니다.
구성 예시
시작점으로 사용할 수 있는 샘플 visualization 객체와 적용되는 설정 범위를 보여주는 이미지로 시작해 보세요.
적분 경사
통합 그래디언트의 경우 기여 분석 영역에 노이즈가 너무 많은 경우 클립 값을 조정해야 할 수 있습니다.
visualization: {
"type": "Outlines", # Can also use "Pixels"
"polarity": "positive",
"clip_below_percentile": 70,
"clip_above_percentile": 99.9,
"color_map": "pink_green",
"overlay_type": "grayscale"
}
다음은 Outlines 및 Pixels 유형을 모두 사용하는 시각화입니다. 'Highly predictive only', 'Moderately predictive,', 'Almost all'로 라벨이 지정된 열은 다른 수준의 클리핑 예시로 시각화에 집중하는 데 도움이 될 수 있습니다.
XRAI
XRAI 시각화의 경우 오버레이가 기여 분석이 높은 영역과 낮은 영역을 표시하기 위해 경사를 사용하므로 XRAI의 클립 값 없이 시작하는 것이 좋습니다.
visualization: {
"type": "Pixels", # Only valid option for XRAI
"polarity": "positive",
"clip_below_percentile": 0,
"clip_above_percentile": 100,
"color_map": "viridis",
"overlay_type": "grayscale"
}
아래 이미지는 기본 viridis 색상 척도와 다양한 오버레이 유형을 사용하는 XRAI 시각화입니다. 노란색 영역은 예측에 긍정적으로 기여한 가장 영향력 있는 리전을 나타냅니다.
다음 단계
What-If 도구를 사용하여 설명을 시각화할 수도 있습니다. 자세한 내용은 예시 메모장을 참조하세요.