言語的多様性に対する言語モデルの適応には大きな課題があり、データの量や質、モデルの種類によって適応の難易度が大きく異なることが明らかになった。特に語彙・意味的な多様性への適応には大量のデータが必要だが、綴りの変異への適応にはデータ量以外の解決策が必要と考えられる。
プロンプト転移の性能を向上させるため、ナレッジディスティレーション技術を導入し、ソース課題からターゲット課題への知識移転を効果的に行う。