Основные понятия
개념 병목 모델의 성능을 향상시키기 위해 잔차 개념 병목 모델과 점진적 개념 발견 모듈을 제안한다.
Аннотация
이 논문은 개념 병목 모델(CBM)의 성능 향상을 위한 방법을 제안한다. CBM은 딥 신경망의 블랙박스 특징을 해석 가능한 개념으로 매핑하여 의사 결정 과정의 투명성을 높인다. 그러나 CBM은 개념의 순수성, 정확성, 완전성 측면에서 여러 문제에 직면한다.
이 논문에서는 다음과 같은 방법을 제안한다:
기본 개념 은행과 후보 개념 은행을 구축하여 개념의 순수성과 정확성을 보장한다.
잔차 개념 병목 모델을 통해 기본 개념 은행의 부족함을 보완한다.
점진적 개념 발견 모듈을 사용하여 잔차 개념을 해석 가능한 개념으로 변환한다.
제안된 방법은 기존 CBM의 성능을 향상시키며, 개념 활용 효율성(CUE) 지표를 통해 설명력을 측정한다. 실험 결과, 제안 모델이 다양한 데이터셋에서 기존 CBM 및 블랙박스 모델을 능가하는 성능을 보인다.
Статистика
개념 병목 모델은 딥 신경망의 블랙박스 특징을 해석 가능한 개념으로 매핑하여 의사 결정 과정의 투명성을 높인다.
개념 병목 모델은 개념의 순수성, 정확성, 완전성 측면에서 여러 문제에 직면한다.
제안된 잔차 개념 병목 모델과 점진적 개념 발견 모듈은 기존 CBM의 성능을 향상시킨다.
제안 모델은 다양한 데이터셋에서 기존 CBM 및 블랙박스 모델을 능가하는 성능을 보인다.
Цитаты
"개념의 순수성은 복잡한 정보를 단순한 기본 요소의 조합으로 추상화하는 것이 핵심이다."
"개념은 인간과 멀티모달 사전 훈련 모델 모두에게 명확하게 이해 가능해야 한다."
"개념 은행을 완전히 포괄적으로 구축하는 것은 매우 어려운 과제이다."