사람의 피드백을 활용한 강화학습(RLHF)의 비판적 분석

사람의 피드백을 활용한 강화학습(RLHF)은 대규모 언어 모델의 성능 향상을 위한 핵심 기술이지만, 보상 모델 설계와 강화학습 알고리즘 선택 등 근본적인 한계가 존재한다.