Core Concepts
다양한 설명자 방법들이 생성한 반사실적 설명들 중 최적의 설명을 선택하기 위해 다기준 분석 기법을 활용한다.
Abstract
이 논문은 기계학습 모델의 예측을 설명하기 위해 널리 사용되는 반사실적 설명들을 다룬다. 반사실적 설명은 다양한 방법으로 생성될 수 있으며, 각 방법은 서로 다른 품질 지표를 최적화한다. 따라서 가장 적절한 설명 방법과 생성된 반사실적 설명을 선택하는 것은 쉽지 않다.
이 연구에서는 다양한 기저 설명자들의 앙상블을 활용하여 반사실적 설명들을 생성하고, 다기준 분석 기법을 통해 이들 중 최적의 설명을 선택하는 접근법을 제안한다. 구체적으로 다음과 같은 단계로 구성된다:
다양한 기저 설명자 방법들을 활용하여 반사실적 설명들을 생성한다.
생성된 설명들 중 유효성과 실행가능성을 만족하는 것들만 선별한다.
다기준 우세 관계를 이용하여 비지배 해집합(Pareto front)을 구성한다.
이상점 방법을 적용하여 비지배 해집합에서 최적의 반사실적 설명을 선택한다.
실험 결과, 제안 방법은 다양한 품질 지표에 대해 우수한 절충 해를 제공하는 것으로 나타났다.
Stats
반사실적 설명을 생성하기 위해 다양한 방법들이 활용되었지만, 어떤 단일 방법도 모든 품질 지표에서 최고의 성능을 보이지 않았다.
제안 방법의 각 단계를 통해 초기 반사실적 설명 집합이 평균 88% 감소하였다.
제안 방법의 Manhattan 거리 기반 변형이 가장 우수한 절충 해를 제공하였다.
Quotes
"다양한 설명자 방법들이 생성한 반사실적 설명들 중 최적의 설명을 선택하기 위해 다기준 분석 기법을 활용한다."
"실험 결과, 제안 방법은 다양한 품질 지표에 대해 우수한 절충 해를 제공하는 것으로 나타났다."