核心概念
얼굴 속성 편집은 자동화된 얼굴 인식 성능을 저하시킬 수 있다. 이를 완화하기 위해 지역적 및 전역적 속성 편집 기술을 제안한다.
摘要
이 연구는 얼굴 속성 편집이 자동화된 얼굴 인식 성능에 미치는 영향을 조사한다. 26개의 다양한 얼굴 속성(외모, 인구통계학적, 표정)을 상태 기반 생성 모델을 사용하여 편집하고, 이에 따른 ArcFace와 AdaFace 얼굴 인식기의 성능 변화를 평가한다.
전역적 편집을 위해 DreamBooth 기반의 정규화 방법을 제안한다. 이는 개인 식별 보존을 위한 대조 학습 손실 함수를 사용한다. 지역적 편집을 위해 ControlNet 기반의 마스크 가이드 비정규화 방법을 제안한다. 이는 세분화 마스크와 깊이 맵을 활용하여 세부적인 편집을 수행한다.
제안 방법은 기존 GAN 및 확산 모델 기반 방법보다 얼굴 인식 성능 저하를 크게 완화할 수 있다. 또한 LLaVA 비전-언어 모델을 사용하여 자동으로 속성 편집 결과를 평가한다.
統計資料
얼굴 인식기 ArcFace로 측정한 CelebA 데이터셋의 FNMR(↓)@FMR(%)=0.01/0.1이 제안 방법(DB-prop.)에서 기존 방법(DB-base)대비 22% 개선되었다.
얼굴 인식기 AdaFace로 측정한 CelebA 데이터셋의 FNMR(↓)@FMR(%)=0.01/0.1이 제안 방법(DB-prop.)에서 기존 방법(DB-base)대비 13% 개선되었다.
얼굴 인식기 ArcFace로 측정한 LFW 데이터셋의 FNMR(↓)@FMR(%)=0.01/0.1이 제안 방법(DB-prop.)에서 기존 방법(DB-base)대비 73% 개선되었다.
얼굴 인식기 AdaFace로 측정한 LFW 데이터셋의 FNMR(↓)@FMR(%)=0.01/0.1이 제안 방법(DB-prop.)에서 기존 방법(DB-base)대비 17% 개선되었다.
引述
"얼굴 속성 편집은 자동화된 얼굴 인식 성능을 저하시킬 수 있다."
"제안 방법은 기존 GAN 및 확산 모델 기반 방법보다 얼굴 인식 성능 저하를 크게 완화할 수 있다."