입력 토큰의 교환가능성과 잠재 변수 모델을 통한 주의 메커니즘 분석

주의 메커니즘은 입력 토큰의 잠재 변수 모델을 통해 충분하고 최소적인 표현을 추론하며, 이를 통해 장기 의존성을 가진 관계적 추론을 수행할 수 있다.