S4の対角状態空間層を使用したバランストランケーションによる学習方法

バランストランケーションを使用してS4モデルを効率的に初期化し、推論時の計算コストを削減するための提案された学習方法は、従来のSkew-HiPPO初期化よりも高い精度を達成します。