大規模トランスフォーマーのプリトレーニングを2:4スパース性で高速化する

2:4スパース性を活用することで、トランスフォーマーのプリトレーニングを高速化できる。精度を維持しつつ、実際の加速比を最大1.2倍まで達成できる。