본 연구에서는 기존 주의 메커니즘 모듈의 한계를 극복하고자 텐서 분해 기반의 새로운 주의 모듈인 PFA(Projected-Full Attention)를 제안한다. PFA는 주의 맵의 랭크를 조절할 수 있어 다양한 작업에 유연하게 적용할 수 있으며, 파라미터 수와 계산 비용이 효율적이다.