言語モデルの検索機能が及ぼす影響の調査

検索機能付き言語モデルは、パラメータ空間の一部を世界知識の保存に使わず、代わりに言語理解の向上に使うことができる。しかし、この分離は全般的な言語理解の性能を低下させる。