본 논문은 LIME 이미지 설명 기법의 한계를 분석하고 이를 개선하기 위한 층화 표본 추출 기법을 제안한다. LIME 이미지는 모델 독립적인 설명 가능 AI 기법으로, 이미지 분류 작업에서 특징 중요도를 제공한다. 그러나 LIME 이미지의 몬테카를로 표본 추출 방식은 합성 이웃의 종속 변수 분포를 충분히 표현하지 못하여 선형 회귀 모델 학습에 어려움을 겪는다.
이 문제의 원인을 분석하고 샤플리 이론과의 연관성을 살펴본다. 그리고 편향되지 않은 층화 표본 추출 추정량을 도출하여 LIME 이미지에 적용한다. 실험 결과, 제안 기법이 종속 변수 분포를 개선하고 더 나은 설명을 생성할 수 있음을 보인다.
他の言語に翻訳
原文コンテンツから
arxiv.org
深掘り質問