LLM 성능 향상을 위한 사실 정보와 토큰 감소 기반의 블랙박스 RAG 프레임워크

본 논문은 LLM의 성능을 향상시키기 위해 사실 정보와 토큰 감소 기술을 활용한 블랙박스 RAG 프레임워크 FIT-RAG를 제안한다. FIT-RAG는 LLM의 선호도와 사실 정보를 모두 고려하는 이중 레이블 문서 스코어링 기법, LLM의 자체 지식 여부를 판단하는 이중 관점 자체 지식 인식기, 그리고 불필요한 토큰을 제거하는 하위 문서 수준 토큰 감소기를 통해 LLM의 성능과 효율성을 동시에 향상시킨다.