본 연구는 심층 학습 모델의 해석 가능성 향상을 위해 Shapley 값 기반 설명 프레임워크를 제안한다. Shapley 값은 각 입력 변수의 기여도를 공정하게 측정할 수 있지만, 계산 복잡도가 지수적으로 증가하는 문제가 있다.
이를 해결하기 위해 EmSHAP(Energy model-based Shapley value estimation) 방법을 제안한다. EmSHAP은 에너지 모델을 활용하여 임의의 입력 변수 부분집합에 대한 심층 학습 모델의 기대 Shapley 기여도를 효과적으로 근사할 수 있다. GRU 네트워크와 동적 마스킹 기법을 도입하여 입력 변수 순서의 영향을 제거하고 일반화 성능을 향상시켰다.
이론적 분석을 통해 EmSHAP이 기존 방법들인 KernelSHAP과 VAEAC보다 더 작은 오차 한계를 가짐을 증명하였다. 의료 및 산업 응용 사례 연구에서도 EmSHAP이 추정 정확도와 효율성 면에서 우수한 성능을 보였다.
إلى لغة أخرى
من محتوى المصدر
arxiv.org
الرؤى الأساسية المستخلصة من
by Cheng Lu,Jiu... في arxiv.org 04-02-2024
https://arxiv.org/pdf/2404.01078.pdfاستفسارات أعمق