大規模言語モデルの時代における小規模モデルの役割：サーベイ

大規模言語モデルの台頭にもかかわらず、小規模モデルは実用的な設定で重要な役割を果たしている。大規模モデルと小規模モデルの協調と競争の観点から、小規模モデルの貢献を理解することが重要である。