LLaMA-Excitor: 大規模言語モデルの指示理解能力を高める軽量な手法

LLaMA-Excitor は、大規模言語モデルの潜在能力を引き出し、指示理解能力を向上させる軽量な手法である。従来の手法とは異なり、中間表現を直接変更せずに、注意スコアを調整することで、モデルの推論プロセスを変更する。これにより、事前学習済みの知識を保持しつつ、指示理解能力を向上させることができる。