이 논문은 대화 내 예시 선택 방법인 ByCS(Bayesian in-Context example Selection)를 제안한다. ByCS는 베이즈 정리를 기반으로 하여 대화 내 예시와 테스트 입력 간의 상호 정보 상호작용을 활용한다.
먼저 테스트 입력에 대한 초기 추론을 수행하여 예측된 레이블을 얻는다. 그 다음 데이터스토어의 각 예시에 대해 역추론을 수행하여 예측된 레이블과 실제 레이블 간의 텍스트 유사도를 계산한다. 텍스트 유사도가 높은 예시들이 테스트 입력과 높은 상호 정보 상호작용을 가지므로 이를 최적의 예시로 선택한다.
다양한 음성, 텍스트 및 시각 모달리티 실험을 통해 ByCS 방법의 효과와 강건성을 검증하였다. 특히 적은 수의 예시를 사용할 때 ByCS가 기존 방법들에 비해 큰 성능 향상을 보였다. 또한 역추론 모델로 작은 모델을 사용하여 계산 비용을 줄이는 방법도 제안하였다.
Naar een andere taal
vanuit de broninhoud
arxiv.org
Belangrijkste Inzichten Gedestilleerd Uit
by Siyin Wang,C... om arxiv.org 04-24-2024
https://arxiv.org/pdf/2404.14716.pdfDiepere vragen