이 연구는 LIME(Local Interpretable Model-agnostic Explanations) 프레임워크의 한계를 해결하기 위해 DSEG-LIME을 제안한다. DSEG-LIME은 다음과 같은 두 가지 주요 기여를 한다:
데이터 기반 분할 모델(특히 SAM)을 LIME의 특징 생성 단계에 통합하여 인간이 인식할 수 있는 개념을 더 잘 반영하는 특징을 생성한다.
계층적 분할 구조를 도입하여 설명의 세부 수준을 조정할 수 있게 한다. 이를 통해 사용자는 전체 개념 또는 세부 구성 요소 수준에서 설명을 요청할 수 있다.
실험 결과, DSEG-LIME은 기존 LIME 기법과 다양한 분할 기법에 비해 정량적, 정성적 측면에서 우수한 성능을 보였다. 특히 인간이 인식할 수 있는 개념을 잘 반영하는 설명을 생성하고, 설명의 일관성과 안정성이 높은 것으로 나타났다. 이는 데이터 기반 분할 기법과 계층적 구조가 LIME의 설명력을 크게 향상시킨 것을 보여준다.
Naar een andere taal
vanuit de broninhoud
arxiv.org
Belangrijkste Inzichten Gedestilleerd Uit
by Patrick Knab... om arxiv.org 03-13-2024
https://arxiv.org/pdf/2403.07733.pdfDiepere vragen