自己学習言語モデルの崩壊

自己学習を通じて言語モデルを改善しようとすると、モデルの性能が著しく低下し、繰り返しの出力に陥る可能性がある。