中間重視の位置エンコーディングによる長文脈拡張のための効率的なレシピ

事前学習済み大規模言語モデル (LLM) の文脈長を効率的に拡張するために、文脈の中間部分からの情報活用に焦点を当てた新しい位置エンコーディング手法「CREAM」を提案する。