Główne pojęcia
텍스트 이미지 생성 모델 평가 과정의 과도한 계산 비용을 해결하기 위해 대표적인 데이터셋을 선별하는 FlashEval 알고리즘을 제안한다.
Streszczenie
이 논문은 텍스트 이미지 생성 모델 평가 과정의 과도한 계산 비용 문제를 해결하기 위해 FlashEval이라는 대표 데이터셋 선별 알고리즘을 제안한다.
먼저 기존 방식의 한계를 분석한다. 기존에는 전체 데이터셋을 사용하거나 무작위로 샘플링한 데이터셋을 사용했지만, 이는 각각 계산 비용이 크거나 평가 정확도가 낮은 문제가 있었다.
이에 FlashEval은 텍스트 특징과 이미지 메트릭을 활용해 대표적인 데이터셋을 선별한다. 구체적으로 세트 단위와 프롬프트 단위에서 반복적인 탐색을 수행하여 상위 성능의 프롬프트를 선별한다. 이때 프롬프트의 출현 빈도를 기반으로 선별하는 것이 핵심 아이디어이다.
실험 결과, FlashEval은 기존 방식 대비 10배 빠른 속도로 유사한 수준의 평가 정확도를 달성할 수 있었다. 또한 다양한 모델 설정에서도 일관되게 우수한 성능을 보였다. 이를 통해 FlashEval이 텍스트 이미지 생성 모델 개발 과정에서 효과적으로 활용될 수 있음을 보였다.
Statystyki
텍스트 이미지 생성 모델 평가에는 COCO 데이터셋 47,000개, PicScore 데이터셋 15,000개 등 상당한 계산 비용이 소요된다.
안정 확산 모델 V1.5를 COCO 데이터셋 전체로 평가하려면 60시간의 GPU 시간이 필요하다.
Cytaty
"Iterative evaluations required in the model design phase are thus impractical, and full set evaluation is often only adopted in the final evaluation (e.g., in DALL-E [26] and Stable-Diffusion [27])."
"To circumvent this challenge, the common practice is to randomly sampling a smaller subset (e.g., 1K prompts in [7, 21]) for a proxy evaluation. However, we find that such random sub-sampling exhibits a poor accuracy-efficiency trade-off."