言語モデルの効率的な開発: 密接に関連する言語に対する追加プリトレーニングによるエンコーダの低コスト化

密接に関連する言語に対して既存の多言語モデルを追加プリトレーニングすることで、専用のモデルを作成するのと同等の性能を低コストで得ることができる。