核心概念
提案されたMoSAは、標準アダプターのパフォーマンスを向上させる革新的な方法であり、追加のパラメータや計算を導入することなく、他のベースラインを常に上回ります。
統計
最も高い精度:90.72%
パラメータ数:1.55M
引用
"Our method consistently outperforms all other baselines, achieving state-of-the-art performance in Adapter Tuning."
"MoSA increases model capacity by mixed training of multiple sparse adapters, achieving an additional improvement of 1.20%."