Explainable AI

머신러닝 모델을 파악하고 해석하는 도구이자 프레임워크입니다.

AI 결과의 이해 및 신뢰 구축

Explainable AI는 기본적으로 여러 Google 제품 및 서비스와 통합된 머신러닝 모델에서 수행한 예측을 파악하고 해석할 수 있도록 지원하는 도구이자 프레임워크입니다. 이 도구를 사용하면 모델 성능을 디버깅하고 향상하며 다른 사람이 모델의 동작을 파악하도록 도울 수 있습니다. AutoML Tables, BigQuery ML, Vertex AI에서 모델 예측에 대한 특성 기여 분석을 생성하고 What-If 도구를 통해 모델 동작을 시각적으로 조사할 수 있습니다.

새로운 소식

이벤트

Vertex AI 예시 기반 설명

등록

해석 가능하고 포괄적인 AI 설계

데이터와 모델 사이의 편향, 드리프트 등의 차이를 감지하고 해결하도록 설계된 도구를 사용하여 해석 가능하고 포괄적이며 완전한 AI 시스템을 빌드합니다. 데이터 과학자는 AutoML Tables, Vertex AI Predictions, Notebooks의 AI Explanations를 통해 데이터 세트 또는 모델 아키텍처를 향상하고 모델 성능을 디버깅하는 데 필요한 유용한 정보를 얻을 수 있습니다. What-If 도구를 통해서는 모델 동작을 한눈에 파악할 수 있습니다.

안심하고 AI 배포

머신러닝 모델에 대한 사람이 이해할 수 있는 설명을 사용하여 최종 사용자의 신뢰도와 투명성을 높입니다. AutoML Tables나 Vertex AI에 모델을 배포하면 특정 요소가 최종 결과에 미치는 영향의 정도를 보여주는 예측과 점수를 실시간으로 확인할 수 있습니다. 설명은 데이터 샘플 또는 모집단의 근본적인 관계를 밝히지는 못하지만 모델이 데이터에서 찾아내는 패턴을 반영합니다.

모델 거버넌스 간소화

간소화된 성능 모니터링 및 학습을 통해 머신러닝 모델을 관리하고 개선해야 하는 조직의 업무를 단순화할 수 있습니다. 모델이 Vertex AI에서 수행하는 예측을 간편하게 모니터링합니다. 또한 지속적 평가 기능을 사용해 모델의 예측과 정답 라벨을 비교하여 모델 성능에 대한 지속적인 피드백을 받아 모델 성능을 최적화합니다.

특성

Google 연구팀에서 개발하고 Google AI 지원에 사용되는 획기적인 XAI 도구로 AI 결과를 파악하세요.

특성 기여 분석

특성 기여 분석을 생성하는 관리형 서비스입니다. 지원되는 메서드에는 샘플링된 Shapely, 통합 경사, XRAI가 있습니다.

AutoML Tables, Vision, Vertex AI Prediction, Notebooks, Model Monitoring 및 BigQuery ML을 포함하여 Vertex AI 서비스에 통합되었습니다.

자세히 알아보기

예시 기반 설명

실행 가능한 설명과 함께 더 나은 모델을 빌드하여 데이터 문제를 완화합니다.

새로운 예측 또는 인스턴스에 비슷한 예시를 반환하는 관리형 최근접 이웃 탐색 서비스입니다.

자세히 알아보기

모델 분석

모델을 더 잘 이해하는 데 도움이 되는 고급 모델 분석 툴킷입니다.

Vertex AI에서 조치를 취하여 What-If 도구가 통합된 대화형 대시보드를 통해 모델을 검사합니다.

또는 What-If 도구 또는 언어 해석 가능성 도구와 함께 오픈소스를 활용합니다.

자세히 알아보기

고객

Sky

"우리 업계에서 AI를 사용할 때는 모델이 결정을 내리는 방법을 이해하는 것이 매우 중요합니다. Google Cloud는 이러한 업계의 문제를 해결하는 데 꾸준하고 상당한 진전을 보였습니다. What-If 도구와 같은 다양한 도구뿐 아니라 AI Platform에서의 특성 기여 분석을 통해 데이터 과학자들은 안심하고 모델을 빌드하고 사람이 이해할 수 있는 설명을 제공할 수 있습니다."

_{스티븐 회이모세, Sky 데이터 여정 책임자}

Wellio

"모델 개발 및 배포 시 모델 점검은 필수입니다. 우리는 때때로 예측 기술에 더 집중하려는 경향이 있는데, 실제로는 해석력이 높은 모델이 가장 유용하고 중요하며 신뢰할 수 있습니다. Google Cloud가 제공하는 이러한 새로운 도구는 내부 데이터 과학자뿐만 아니라 모델 고객도 지원하기 때문에 무척 기대가 큽니다."

_{에릭 안드레이코, Wellio 최고기술경영자}

Vivint SmartHome

"모델의 해석 능력은 우리가 AI를 최적화하고 가장 효과적으로 문제를 해결하는 데 매우 중요합니다. Google은 연구 개발을 통해 Explainable AI의 지원 범위를 더 확장해 나가고 있습니다. 또한 우리는 Google Cloud를 통해 이미 시도되어 테스트를 거친 기술을 입수하여 모델 해석 능력 문제를 해결하고 데이터 과학 역량을 한층 발전시켰습니다."

_{애런 데이비스, Vivint SmartHome 수석 데이터 과학자}

iRobot

"우리는 향후 출시할 제품의 기능 개발에 신경망을 활용하고 있습니다. 딥 러닝 모델 학습을 향상시킬 수 있는 사용 간편한 고품질 솔루션은 우리의 노력에 큰 보탬이 됩니다. Google Cloud는 특성 기여 분석의 문제를 해결하는 데 꾸준하고 상당한 진전을 보였으며 모델이 수행하는 예측에 대해 사람이 이해할 수 있는 설명을 제공하기 때문에 무척 기대가 큽니다."

_{크리스 존스, iRobot 최고기술경영자}

리소스

Explainable AI 도구는 AutoML Tables 또는 Vertex AI 사용자에게 무료로 제공됩니다. Cloud AI는 사용된 노드 시간에 대해 요금이 청구되며, 모델 예측을 위해 AI Explanations를 실행하려면 컴퓨팅과 스토리지 용량이 필요합니다. 따라서 Explainable AI 사용 시 노드 사용 시간이 늘어날 수 있습니다.

가격 책정 세부정보 보기