본 논문에서는 기존 트랜스포머 모델의 MLP 레이어를 DWN(Differentiable Weightless Neural Network) 레이어로 대체하여 에너지 효율성을 높인 QuWeiT(준무게추 트랜스포머)를 제안합니다.
