長文コンテキストを効率的に処理するための革新的な手法

本研究では、メモリとコンピューティングリソースを制限しつつ、無限に長い入力シーケンスを効率的に処理できる新しい注意機構「Infini-attention」を提案する。