Core Concepts
사용자의 선호도와 다양한 모달리티의 기여도를 고려하여 애니메이션 일러스트레이션을 추천하는 AI 기반 시스템을 제안한다.
Abstract
본 연구는 AI 기반 애니메이션 일러스트레이션 추천 시스템 UMAIR-FPS를 제안한다. 주요 내용은 다음과 같다:
이미지 특징 추출 단계:
이미지 인코더에서 페인팅 스타일과 의미적 특징을 동시에 추출하여 이미지 표현력을 향상시킴
텍스트 인코더에서 다국어 매핑, 개체 관계, 용어 설명 등 다양한 관점의 애니메이션 도메인 지식을 활용하여 성능 향상
다중 모달 융합 단계:
사용자 인식 다중 모달 기여도 측정 메커니즘(UMCM)을 도입하여 사용자 선호도에 따라 모달리티 간 가중치를 동적으로 조정
DCN-V2 모듈을 활용하여 모달리티 간 상호작용을 효과적으로 모델링
실험 결과, 제안 모델이 기존 최신 기법들에 비해 우수한 성능을 보였다. 특히 페인팅 스타일 특징과 도메인 지식 기반 텍스트 인코더, 사용자 인식 다중 모달 융합 메커니즘이 핵심 기여 요인으로 나타났다.
Stats
애니메이션 일러스트레이션 추천 시스템에서 사용자 선호도와 상호작용이 중요한 역할을 한다.
애니메이션 일러스트레이션 데이터셋은 장기 꼬리 분포를 보이며, 이는 추천 시스템 설계에 어려움을 야기한다.
제안 모델은 기존 최신 기법들에 비해 BCE 손실 25.35%, AUC 5.4% 향상을 보였다.
Quotes
"애니메이션 일러스트레이션 추천 시스템에서 페인팅 스타일 특징과 도메인 지식 기반 텍스트 인코더가 핵심적인 역할을 한다."
"사용자 인식 다중 모달 융합 메커니즘은 사용자 선호도를 효과적으로 모델링할 수 있다."
"다중 모달리티 간 상호작용을 고려하는 것이 추천 성능 향상에 중요하다."