KIWI: A Dataset of Knowledge-Intensive Writing Instructions for Answering Research Questions

핵심 개념

Current large language models struggle to effectively follow user instructions for revising long-form answers, as shown by the KIWI dataset analysis.

초록

Abstract: Large language models (LLMs) are widely used as conversational agents. KIWI dataset evaluates LLMs' capabilities in providing writing assistance for long-form answers. Models struggle to incorporate new information and follow precise instructions accurately. Introduction: Users rely on LLMs for writing assistance. KIWI dataset aims to understand LLMs' instruction-following abilities for writing tasks. Different types of instructions issued to LLMs are analyzed. Interaction Design: Knowledge-intensive interaction setting with iterative answer revisions. User issues instructions for model to revise answers. Interaction continues until user satisfaction or maximum turns reached. Dataset Collection: Creation of high-quality (question, document set) pairs. Annotated questions derived from related work sections of research papers. Interaction data collected with three LLMs. Analysis of KIWI: Models struggle to integrate new information and perform precise edits. Fine-grained instruction analysis reveals different types of instructions and model performance. Error analysis highlights common failure patterns. Experiments: Automatic evaluation of instruction following by LLMs. Results show models struggle to reliably judge responses for specific instructions. Human agreement remains higher than model evaluations. Related Work: Prior efforts in instruction-following datasets and LLM-based evaluation. KIWI dataset focuses on writing assistance and text editing tasks. Conclusion: KIWI dataset provides valuable insights into LLMs' instruction-following abilities. Potential uses include training data for model improvement and developing accurate reward models.

통계

모델은 사용자 지시를 따르지 못하고 새로운 정보를 통합하는 데 어려움을 겪습니다. GPT-4는 스타일 지시에 대해 70% 이상의 좋은 평가를 받지만 정보 요청 지시에 대해 어려움을 겪습니다. LLM은 특정 편집을 수행하는 데 어려움을 겪습니다. GPT-4의 "요약" 지시에 대한 응답은 63%의 좋은 평가를 받습니다. LLM은 새로운 정보를 통합하거나 정확한 편집을 수행하는 데 어려움을 겪습니다.

인용구

"Through a detailed analysis of the collected responses, we find that all models struggle to incorporate new information into an existing answer." "Our findings indicate that KIWI will be a valuable resource to measure progress and improve LLMs’ instruction-following capabilities for knowledge-intensive writing tasks."

핵심 통찰 요약

KIWI

by Fangyuan Xu,... 게시일 arxiv.org 03-07-2024

https://arxiv.org/pdf/2403.03866.pdf

더 깊은 질문

어떻게 현재의 대형 언어 모델이 새로운 정보를 통합하거나 정확한 편집을 수행하는 데 어려움을 겪는지에 대해 더 깊이 이해할 수 있을까요?

현재의 대형 언어 모델은 새로운 정보를 통합하거나 정확한 편집을 수행하는 데 어려움을 겪는 이유는 몇 가지 측면에서 설명할 수 있습니다. 첫째, 이러한 모델은 다수의 문서에서 정보를 추출하고 통합해야 하는 작업에서 어려움을 겪을 수 있습니다. 다중 문서 요약 및 통합은 현재의 모델에게 아직 도전적인 과제일 수 있습니다. 둘째, 모델은 정확한 편집을 수행하는 데 어려움을 겪을 수 있습니다. 특히 특정 지시에 따라 정확한 수정을 수행하는 것이 모델에게는 복잡한 작업일 수 있습니다. 마지막으로, 새로운 정보를 기존 답변에 일관되게 통합하는 것이 어려울 수 있습니다. 모델은 새로운 정보를 통합할 때 답변의 일관성을 유지하는 데 어려움을 겪을 수 있습니다.

이러한 모델의 한계를 극복하기 위한 대안적인 방법은 무엇일까요?

대형 언어 모델의 한계를 극복하기 위한 대안적인 방법은 몇 가지가 있을 수 있습니다. 첫째, 모델을 향상시키기 위해 인간이 평가한 모델 수정을 학습 데이터로 활용할 수 있습니다. 인간이 성공적으로 수정한 모델 수정과 모델이 실패한 경우에 대한 수동 수정을 학습 데이터로 활용하여 모델의 지시 따르기 능력을 향상시킬 수 있습니다. 둘째, 모델 수정의 품질을 평가하기 위한 인간의 판단을 사용하여 글쓰기 지원을 위한 보상 모델을 더 정확하게 개발할 수 있습니다. 마지막으로, 다양한 유형의 지시를 활용하여 모델의 성능을 평가할 수 있습니다. 이러한 다양한 지시는 모델이 다양한 상황에서 어떻게 작동하는지 이해하고 개선하는 데 도움이 될 수 있습니다.

이러한 모델의 성능을 향상시키기 위해 어떻게 다양한 유형의 지시를 활용할 수 있을까요?

대형 언어 모델의 성능을 향상시키기 위해 다양한 유형의 지시를 활용하는 방법은 다음과 같습니다. 첫째, 정보를 확장하는 지시와 스타일적인 지시를 모두 고려하여 모델을 훈련시킬 수 있습니다. 정보를 확장하는 지시는 새로운 정보를 통합하고 답변 범위를 확장하는 데 중점을 두며, 스타일적인 지시는 답변의 형식을 개선하고 수정하는 데 중점을 둘 수 있습니다. 둘째, 모델이 새로운 정보를 통합하고 정확한 편집을 수행하는 데 어려움을 겪는 부분에 초점을 맞추어 추가적인 훈련을 제공할 수 있습니다. 이를 통해 모델이 특정 작업을 더 잘 수행하도록 도울 수 있습니다. 마지막으로, 다양한 유형의 지시를 사용하여 모델의 성능을 평가하고 모델이 어떻게 작동하는지 이해할 수 있습니다. 이러한 다양한 지시는 모델의 강점과 약점을 식별하고 개선하는 데 도움이 될 수 있습니다.