이 논문은 대형 언어 모델의 추상화 기반 추론 기법인 "STEP-BACK PROMPTING"을 소개한다. 이 기법은 두 단계로 구성된다:
추상화 단계: 원래 질문을 더 높은 수준의 추상적인 질문으로 변환한다. 이를 통해 모델이 관련 개념과 원리를 쉽게 파악할 수 있다.
추론 단계: 추상화된 개념과 원리를 바탕으로 원래 질문에 대한 답변을 도출한다.
이 기법은 STEM, 지식 질의응답, 다중 단계 추론 등 다양한 복잡한 과제에서 기존 모델 대비 큰 성능 향상을 보여주었다. 특히 추상화 단계에서는 소수의 예시만으로도 모델이 관련 개념과 원리를 잘 파악할 수 있었지만, 추론 단계에서의 오류가 여전히 문제로 나타났다. 이는 대형 언어 모델의 추론 능력 향상이 향후 과제임을 시사한다.
A otro idioma
del contenido fuente
arxiv.org
Ideas clave extraídas de
by Huaixiu Stev... a las arxiv.org 03-13-2024
https://arxiv.org/pdf/2310.06117.pdfConsultas más profundas