トランスフォーマーはチューリングマシンか？ - メモリトレースの分析

トランスフォーマーモデルのメモリ性能は、人間の記憶モデルとは大きく異なる特徴を示す。特に、情報の出所に関する情報の保持が弱く、意味記憶の影響が強いことが明らかになった。