본 논문은 다중 과제 최적화(MTO) 문제를 다룬다. MTO는 개별 과제 간 불균형 문제를 해결하는 것을 목표로 한다. 기존 MTO 방법은 성능 또는 효율성 중 하나를 희생하는 경향이 있다.
저자들은 GO4Align이라는 새로운 손실 기반 MTO 방법을 제안한다. GO4Align은 과제 간 상호작용을 활용하여 다중 과제 정렬을 달성한다. 구체적으로:
이를 통해 GO4Align은 과제 간 학습 진행을 효과적으로 정렬하면서도 계산 효율성을 유지할 수 있다. 실험 결과, GO4Align은 다양한 벤치마크에서 기존 방법들을 능가하는 성능을 보였다.
Sang ngôn ngữ khác
từ nội dung nguồn
arxiv.org
Thông tin chi tiết chính được chắt lọc từ
by Jiayi Shen,C... lúc arxiv.org 04-10-2024
https://arxiv.org/pdf/2404.06486.pdfYêu cầu sâu hơn