Grunnleggende konsepter
대형 언어 모델의 추론 능력을 향상시키기 위해 사슬, 트리, 그래프와 같은 구조를 활용하는 방법론을 제시한다.
Sammendrag
이 논문은 대형 언어 모델(LLM)의 추론 능력을 향상시키기 위한 새로운 접근법을 제안한다. 기존의 단순한 입력-출력 방식의 프롬프팅을 넘어서, 중간 단계의 추론 과정을 명시적으로 모델링하는 방법을 소개한다.
- 사슬 기반 추론(Chain-of-Thought): 입력에 대한 단계적인 추론 과정을 제공하여 LLM의 성능을 향상시킨다.
- 트리 기반 추론(Tree of Thoughts): 추론 과정을 트리 구조로 표현하여 다양한 탐색 경로를 고려할 수 있다.
- 그래프 기반 추론(Graph of Thoughts): 추론 과정을 임의의 그래프 구조로 모델링하여 더 복잡한 추론 패턴을 표현할 수 있다.
이러한 구조화된 추론 방식은 논리적 추론, 수학 문제 해결, 계획 수립, 창의적 글쓰기 등 다양한 과제에서 LLM의 성능을 크게 향상시킨다.
또한 저자들은 이러한 추론 토폴로지의 일반적인 청사진과 분류법을 제시하여, 향후 프롬프팅 기법 개발을 위한 기반을 마련하였다.
Statistikk
대형 언어 모델은 단순한 입력-출력 방식의 프롬프팅을 넘어서, 중간 단계의 추론 과정을 명시적으로 모델링할 필요가 있다.
사슬, 트리, 그래프와 같은 구조화된 추론 방식은 논리적 추론, 수학 문제 해결, 계획 수립, 창의적 글쓰기 등 다양한 과제에서 LLM의 성능을 크게 향상시킨다.
Sitater
"To facilitate the understanding of this growing field and pave the way for future developments, we devise a general blueprint for effective and efficient LLM reasoning schemes."
"Our work will help to advance future prompt engineering techniques."