核心概念
従来の勾配ベースのマルチタスク最適化手法は、パラメータ更新と勾配間のずれにより、必ずしも最適なパラメータ更新に繋がらない。本稿では、パラメータ更新のバランシングを通してタスク最適化を行う新しい手法PUBを提案し、ベンチマークデータセットにおいて最先端の結果を達成したことを示す。
要約
PUB:レコメンデーションシステムにおけるマルチタスクランキングモデルのための、パラメータ更新バランシングアルゴリズム
Yuan, J., Cai, G., & Dong, Z. (2024). A Parameter Update Balancing Algorithm for Multi-task Ranking Models in Recommendation Systems. arXiv preprint arXiv:2410.05806.
本論文は、レコメンデーションシステムにおいて、複数のタスクを同時に学習するマルチタスクランキングモデルの最適化手法を提案することを目的とする。特に、従来の勾配ベースの手法では、パラメータ更新と勾配間のずれにより最適化が困難となる問題に対処する。