이 논문은 대형 언어 모델의 추상화 기반 추론 기법인 "STEP-BACK PROMPTING"을 소개한다. 이 기법은 두 단계로 구성된다:
추상화 단계: 원래 질문을 더 높은 수준의 추상적인 질문으로 변환한다. 이를 통해 모델이 관련 개념과 원리를 쉽게 파악할 수 있다.
추론 단계: 추상화된 개념과 원리를 바탕으로 원래 질문에 대한 답변을 도출한다.
이 기법은 STEM, 지식 질의응답, 다중 단계 추론 등 다양한 복잡한 과제에서 기존 모델 대비 큰 성능 향상을 보여주었다. 특히 추상화 단계에서는 소수의 예시만으로도 모델이 관련 개념과 원리를 잘 파악할 수 있었지만, 추론 단계에서의 오류가 여전히 문제로 나타났다. 이는 대형 언어 모델의 추론 능력 향상이 향후 과제임을 시사한다.
In un'altra lingua
dal contenuto originale
arxiv.org
Approfondimenti chiave tratti da
by Huaixiu Stev... alle arxiv.org 03-13-2024
https://arxiv.org/pdf/2310.06117.pdfDomande più approfondite