Télécharger Linnk AI
•
Assistant de recherche
>
Connexion
Idée
-
長文脈言語モデル
中間重視の位置エンコーディングによる長文脈拡張のための効率的なレシピ
事前学習済み大規模言語モデル (LLM) の文脈長を効率的に拡張するために、文脈の中間部分からの情報活用に焦点を当てた新しい位置エンコーディング手法「CREAM」を提案する。
1