Core Concepts
이 연구는 인과 관계 그래프를 알지 못하는 경우에도 반사실적 확률을 활용하여 검은 상자 모델을 설명할 수 있는 새로운 XAI 프레임워크를 제안한다.
Abstract
이 연구는 검은 상자 기계 학습 모델의 설명을 위해 반사실적 확률을 활용하는 새로운 XAI 프레임워크를 제안했다. 기존 방법들은 인과 관계 그래프가 알려져 있다는 가정을 필요로 했지만, 이 연구에서는 인과 발견 방법을 활용하여 인과 관계 그래프를 추정하고 이를 반사실적 확률 계산에 활용했다.
인공 데이터 실험에서는 인과 구조에 대한 사전 정보를 활용하여 인과 발견 방법을 적용했을 때 기존 방법보다 설명 점수를 더 정확하게 추정할 수 있음을 확인했다. 또한 실제 신용 등급 데이터에 적용하여 인과 관계 그래프를 모르는 경우에도 유용한 설명을 제공할 수 있음을 보였다.
Stats
신용 등급이 높은 고객의 경우 특정 변수 값을 낮추면 신용 등급이 낮아질 확률은 최대 10%이다.
신용 등급이 낮은 고객의 경우 특정 변수 값을 높이면 신용 등급이 높아질 확률은 최대 80%이다.
Quotes
"이 연구는 인과 관계 그래프를 알지 못하는 경우에도 반사실적 확률을 활용하여 검은 상자 모델을 설명할 수 있는 새로운 XAI 프레임워크를 제안한다."
"인공 데이터 실험에서는 인과 구조에 대한 사전 정보를 활용하여 인과 발견 방법을 적용했을 때 기존 방법보다 설명 점수를 더 정확하게 추정할 수 있음을 확인했다."
"실제 신용 등급 데이터에 적용하여 인과 관계 그래프를 모르는 경우에도 유용한 설명을 제공할 수 있음을 보였다."