이 논문은 뇌-컴퓨터 인터페이스 분야에서 뇌파 신호를 텍스트로 변환하는 새로운 방법인 SEE(Semantically Aligned EEG-to-Text Translation)를 제안한다.
SEE는 두 가지 핵심 모듈을 사전 학습된 BART 언어 모델에 통합한다:
교차 모달 코드북(Cross-Modal Codebook): 뇌파와 텍스트 간의 교차 모달 표현을 학습하여 특징 통합과 도메인 격차 완화를 돕는다.
의미 매칭 모듈(Semantic Matching Module): 다중 모달 특징을 정렬하면서도 잘못된 부정 쌍(false negative pairs)으로 인한 노이즈를 고려한다. 이를 통해 다중 모달 간 상호작용을 향상시킨다.
실험 결과, SEE 모델은 기존 방법들에 비해 BLEU-4 점수와 ROUGE 점수에서 우수한 성능을 보였다. 이는 제안된 두 모듈이 뇌파-텍스트 번역 정확성 향상에 효과적임을 입증한다.
Egy másik nyelvre
a forrásanyagból
arxiv.org
Mélyebb kérdések