大規模トランスフォーマーベースモデルのアウトライア耐性の高いホップフィールド層

大規模トランスフォーマーベースモデルにおけるアウトライア問題に対処するため、アウトライア耐性の高い新しいホップフィールドモデルを提案する。このモデルは、アウトライア効率的な注意メカニズムを実現し、大規模モデルの性能を向上させる。