Core Concepts
LoReKTは、豊富なリソースからの事前学習を通じて知識トレーシング能力を転送し、低リソース状況で効果的に適応することを目指しています。
Stats
直接訓練するDLKTモデルは低リソースKTデータセットで過学習につながる可能性がある
LoReKT-Ft-impt-221MはAS2009およびAL2005データセットでAUCスコアが最も高い
LoReKT-Ft-impt-221Mは他のベースライン手法よりもAS2009およびAL2005データセットでAUCスコアが優れている
Quotes
"LoReKT-Ft-impt-221MはAS2009およびAL2005データセットでAUCスコアが最も高い"
"重要性ベクトルに基づく微調整戦略が有効であり、オーバーフィッティング問題を軽減します"