小型言語モデルの学習: 複数の大規模言語モデルからの知識蒸留

複数の大規模言語モデルから知識を蒸留することで、小型の言語モデルの性能を大幅に向上させることができる。