환각 탐지

합성 데이터를 활용한 환각 탐지 시스템: SemEval-2024 Task 6에서의 SmurfCat

본 논문에서는 SemEval-2024 환각 탐지 과제를 위해 개발한 혁신적인 시스템을 소개합니다. 다양한 기준으로 모델 예측과 참조 표준을 비교하는 전략을 탐구했으며, 사전 훈련된 인코더의 감독 학습을 통한 개선과 여러 고성능 모델을 활용한 앙상블 접근법을 시도했습니다. 이를 통해 강력한 성능 지표를 보이는 세 가지 독특한 방법을 제시합니다. 또한 레이블이 없는 훈련 데이터에서 추가 훈련 샘플을 생성하여 데이터를 증폭시켰습니다. 마지막으로 접근법들에 대한 자세한 비교 분석을 제공합니다.

합성 데이터를 활용한 환각 탐지 시스템: SemEval-2024 Task 6에서의 SmurfCat

진실을 찾아서: 환각 탐지를 위한 심문 접근 방식