이 논문은 언어 모델 프롬프팅의 성능 향상을 위한 단조적 문장 바꾸기(MONOPARA)라는 새로운 접근법을 제안한다.
주어진 프롬프트를 문장 바꾸기 모델(paraphrase model)과 타겟 모델(target model)의 앙상블 디코딩을 통해 반복적으로 재작성한다. 문장 바꾸기 모델은 원래 프롬프트의 의미를 유지하면서 재작성하고, 타겟 모델은 퍼플렉서티를 낮추는 방향으로 제약을 가한다.
탐욕적 디코딩과 검색 기반 디코딩의 두 가지 디코딩 방식을 제안하고 비교한다. 검색 기반 디코딩은 미래 영향을 고려하여 더 효율적으로 저 퍼플렉서티 프롬프트를 찾아낸다.
다양한 분류 작업에서 실험을 수행하여 MONOPARA가 기존 프롬프트 대비 퍼플렉서티를 낮추고 성능을 향상시킴을 보인다. 또한 교란된 지시문에 대한 모델 강건성 향상에도 효과적임을 확인한다.
Egy másik nyelvre
a forrásanyagból
arxiv.org
Mélyebb kérdések