본 논문은 다중 작업 밀집 예측을 위한 새로운 디코더 기반 방법인 저차원 전문가 혼합(MLoRE) 기법을 제안한다. MLoRE는 전문가 간 전역적 관계를 명시적으로 모델링하고, 전문가 수를 늘려 표현 능력을 확장하면서도 계산 비용을 효과적으로 제어한다.
