이 논문은 지속적 학습(Continual Learning)에서 재앙적 망각(Catastrophic Forgetting) 문제를 해결하기 위한 방법을 제안한다.
클래스 프로토타입 학습: 각 클래스의 핵심 특징을 포착하는 학습 가능한 프로토타입을 도입한다. 이 프로토타입은 확산 모델의 디노이징 과정에 통합되어 이전 과제의 고품질 이미지 생성을 돕는다.
경사 투영 기법: 확산 모델의 크로스 어텐션 레이어에 경사 투영 기법을 적용하여 이전 과제의 표현을 현재 과제에서 최대한 유지하도록 한다. 이를 통해 확산 모델의 재앙적 망각을 추가로 완화한다.
실험 결과, 제안 방법인 GPPDM은 다양한 벤치마크 데이터셋에서 기존 최신 모델들을 크게 능가하는 성능을 보였다. 평균 정확도가 크게 향상되고 평균 망각률이 크게 감소하였다.
Til et andet sprog
fra kildeindhold
arxiv.org
Vigtigste indsigter udtrukket fra
by Khanh Doan,Q... kl. arxiv.org 03-25-2024
https://arxiv.org/pdf/2312.06710.pdfDybere Forespørgsler