位置嵌入無關的注意力重加權提升了零推論開銷的檢索增強生成

本文提出了一種位置嵌入無關的注意力重加權方法(PEAR),能夠在零推論開銷的情況下提升大型語言模型在檢索增強生成任務上的性能。