Core Concepts
인간의 지각 과정을 모방하여 얼굴 인증 알고리즘의 결정 과정을 사람이 이해할 수 있도록 설명하는 방법을 제안한다.
Abstract
이 논문은 얼굴 인증 알고리즘의 투명성, 공정성, 책임성을 보장하기 위해 인간의 지각 과정을 모방하는 접근 방식을 제안한다.
먼저 Mediapipe를 사용하여 얼굴의 13개 의미론적 영역을 정의한다. 이를 통해 기계가 얼굴의 특정 부분을 어떻게 인식하는지 분석할 수 있다.
다음으로 KernelSHAP 알고리즘을 사용하여 모델이 각 의미론적 영역을 얼마나 중요하게 여기는지 파악한다. 이를 통해 모델이 얼굴의 어떤 부분에 초점을 맞추는지 이해할 수 있다.
마지막으로 단일 제거 및 탐욕적 제거 알고리즘을 사용하여 얼굴 영역의 유사성과 차이점을 시각화한다. 이를 통해 모델이 얼굴 비교 시 어떤 부분에 주목하는지 확인할 수 있다.
제안된 방법은 인간의 지각 과정을 모방하여 얼굴 인증 알고리즘의 결정 과정을 사람이 이해할 수 있도록 돕는다. 이를 통해 알고리즘의 투명성과 신뢰성을 높일 수 있다.
Stats
얼굴 인증 알고리즘의 결정은 특정 임계값에 기반하므로, 가장 중요한 특징을 식별하는 것만으로는 충분하지 않다.
얼굴 인증 모델은 얼굴의 특정 부분을 더 중요하게 여기는 경향이 있다.
얼굴 영역을 제거하면 모델의 유사도 점수가 변화하는데, 이를 통해 해당 영역의 기여도를 파악할 수 있다.
Quotes
"인간의 지각 과정을 모방하여 얼굴 인증 알고리즘의 결정 과정을 사람이 이해할 수 있도록 돕는다."
"이를 통해 알고리즘의 투명성과 신뢰성을 높일 수 있다."