長文脈理解のための効率的な学習手法「LLoCO」

LLoCOは、文脈圧縮と効率的なファインチューニングを組み合わせることで、大規模言語モデルの長文脈処理能力を大幅に向上させる手法である。