대형 언어 모델의 환각 탐지 및 방지를 위한 벤치마크와 개입 방법 구축

대형 언어 모델은 입력 정보나 실제 세계 사실과 부합하지 않는 출력을 생성하는 환각에 취약하다. 이 문제를 해결하기 위해 모델의 내부 상태를 활용한 탐지 및 방지 기법이 필요하다.