Core Concepts
본 논문은 노이즈 레이블 학습, 다중 평가자 학습, 인간-AI 협력을 동시에 다루는 새로운 접근법인 LECOMH를 제안한다. LECOMH는 분류 정확도를 최대화하고 협력 비용을 최소화하는 것을 목표로 한다.
Abstract
본 논문은 노이즈 레이블 학습, 다중 평가자 학습, 인간-AI 협력 기술을 통합하는 새로운 접근법인 LECOMH를 제안한다. LECOMH는 다음과 같은 3단계로 구성된다:
노이즈 레이블 학습 기법을 사용하여 AI 예측 모듈을 사전 학습한다.
다중 평가자 학습 방법인 CROWDLAB을 사용하여 학습 데이터에 대한 합의 레이블을 생성한다.
인간-AI 선택 모듈과 협력 모듈을 학습한다. 인간-AI 선택 모듈은 AI 단독 예측, AI와 1명의 사용자 협력, AI와 2명의 사용자 협력 등 다양한 협력 형태를 예측한다. 협력 모듈은 선택된 협력 형태에 따라 최종 예측을 수행한다.
LECOMH는 기존 인간-AI 협력 방법들에 비해 높은 분류 정확도와 낮은 협력 비용을 달성한다. 특히 LECOMH는 모든 벤치마크에서 인간 평가자의 성능을 향상시키는 유일한 방법이다.
Stats
노이즈 레이블이 있는 데이터셋에서도 LECOMH가 높은 분류 정확도를 달성할 수 있다.
LECOMH는 협력 비용이 증가함에 따라 분류 정확도가 지속적으로 향상된다.
LECOMH는 모든 벤치마크에서 인간 평가자의 성능을 향상시킬 수 있다.
Quotes
"LECOMH는 분류 정확도를 최대화하고 협력 비용을 최소화하는 것을 목표로 한다."
"LECOMH는 모든 벤치마크에서 인간 평가자의 성능을 향상시키는 유일한 방법이다."