Core Concepts
텍스트 설명이 시각적 주의력에 미치는 영향을 분석하고, 텍스트 정보를 고려한 시각적 주의력 예측 모델을 제안한다.
Abstract
이 연구는 텍스트 설명이 이미지의 시각적 주의력에 미치는 영향을 분석하고, 이를 고려한 시각적 주의력 예측 모델을 제안한다.
텍스트 안내 이미지 시각적 주의력(SJTU-TIS) 데이터베이스 구축
600개 이미지와 1200개 텍스트 설명으로 구성
4가지 유형의 텍스트 설명(일반 시나리오, 두드러진 객체 설명, 두드러지지 않은 객체 설명, 일반 설명)
60명의 참여자를 통해 시선 추적 데이터 수집
텍스트 설명이 시각적 주의력에 미치는 영향 분석
텍스트 설명에 따라 시각적 주의력이 크게 달라짐
두드러진 객체를 설명하면 해당 객체에 시선이 집중되고, 두드러지지 않은 객체를 설명하면 시선이 해당 객체로 이동
텍스트 안내 시각적 주의력 예측 모델(TGSal) 제안
이미지 특징과 텍스트 특징을 통합하여 예측
글로벌 텍스트 특징과 지역 텍스트 특징을 단계적으로 융합
SALICON 데이터셋과 SJTU-TIS 데이터셋에서 우수한 성능 달성
Stats
이미지의 대비, 색상, 공간 정보, 밝기 등 다양한 속성을 고려하여 SJTU-TIS 데이터셋이 SALICON 데이터셋과 유사한 수준의 다양성을 가지고 있음을 확인하였다.
Quotes
"텍스트 설명이 시각적 주의력에 미치는 영향을 분석하고, 이를 고려한 시각적 주의력 예측 모델을 제안한다."
"텍스트 설명에 따라 시각적 주의력이 크게 달라짐을 확인하였다."
"이미지 특징과 텍스트 특징을 통합하여 예측하는 TGSal 모델을 제안하였다."