Core Concepts
지속적인 학습을 통해 이전 지식을 효과적으로 보존하면서 새로운 정보를 점진적으로 학습하는 다양한 표현 임베딩 프레임워크를 제안한다.
Abstract
이 논문은 지속적 학습 기반 개인 재식별(LReID) 문제를 다룬다. LReID의 핵심 과제는 이전 지식을 효과적으로 보존하면서 새로운 정보를 점진적으로 학습하는 것이다. 기존 방법들은 과제 수준의 도메인 격차와 이전 과제 데이터셋의 제한으로 인한 catastrophic forgetting 문제를 간과했다.
이를 해결하기 위해 저자들은 다양한 표현 임베딩(DRE) 프레임워크를 제안한다. DRE는 인스턴스 수준과 과제 수준의 레이아웃을 기반으로 이전 지식을 보존하면서 새로운 정보에 적응한다. 구체적으로:
적응형 제약 모듈(ACM)을 제안하여 다중 표현 간 통합 및 분리 연산을 수행하여 각 인스턴스의 밀집 임베딩 부공간을 얻어 제한된 이전 과제 데이터셋에서의 매칭 능력을 향상시킨다.
지식 업데이트(KU) 및 지식 보존(KP) 전략을 도입하여 이전 및 새로운 과제 간 도메인 격차를 줄이고 제한된 이전 과제 데이터셋의 각 인스턴스의 다양한 표현을 활용한다.
실험 결과, 제안 방법이 기존 최신 기법들에 비해 전반적, 대규모, 가려진 데이터셋에서 크게 향상된 성능을 보였다.
Stats
제한된 이전 과제 데이터셋에서도 모델의 매칭 능력을 향상시키기 위해 다양한 표현 간 통합 및 분리 연산을 수행한다.
이전 및 새로운 과제 간 도메인 격차를 줄이고 제한된 이전 과제 데이터셋의 각 인스턴스의 다양한 표현을 활용하기 위해 지식 업데이트 및 지식 보존 전략을 도입한다.
Quotes
"지속적인 학습을 통해 이전 지식을 효과적으로 보존하면서 새로운 정보를 점진적으로 학습하는 것이 LReID의 핵심 과제이다."
"기존 방법들은 과제 수준의 도메인 격차와 이전 과제 데이터셋의 제한으로 인한 catastrophic forgetting 문제를 간과했다."
"제안 방법은 인스턴스 수준과 과제 수준의 레이아웃을 기반으로 이전 지식을 보존하면서 새로운 정보에 적응한다."