LibMOONは、PyTorchフレームワークに基づいた、最先端の勾配ベースの多目的最適化手法をサポートする最初の現代的なライブラリである。LibMOONは、合成問題、多タスク学習問題、および実世界の多目的機械学習タスクに対して、有限の Pareto 最適解を見つけるための手法、Pareto 集合を学習する手法、および高コストの問題に対する多目的ベイズ最適化手法をサポートしている。
従来のL-smoothnessよりも緩和された一般化ℓ-smoothness条件下においても、基本的な多目的最適化アルゴリズムであるMGDAとその確率的変種の収束が証明され、効率的な更新を実現するMGDA-FAも提案された。
本論文では、勾配降下法を多目的最適化問題に拡張したヤコビアン降下法(JD)を紹介し、勾配間の競合を効果的に解決する新しいアグリゲータであるAUPGradを提案する。さらに、JDを用いた新しい学習パラダイムであるインスタンス単位リスク最小化(IWRM)を探求し、従来の平均損失最小化に比べて有望な結果を示す。
計算コストの高いLipschitz関数における多目的最適化問題に対し、ハイパーパラメータ調整を必要とせず、解釈性の高い新しいアプローチである、競合性に基づくスカラー化手法(SWCM)とその近似解法(CAoLF)を提案する。
本稿では、多数の目的関数を持つ最適化問題において、少数の解で効率的にパレート最適解を近似する新しいアプローチである、チェビシェフ集合スカラー化法を提案する。
本稿では、非平滑多目的最適化問題に対して、高速な収束率を達成する新しいアルゴリズム、SAPGM(Smoothing Accelerated Proximal Gradient Method with Extrapolation Term)を提案する。