大型語言模型中知識編輯類型的識別

本文提出了一項新任務 - 知識編輯類型識別 (KETI)，旨在識別大型語言模型中的惡意編輯。我們構建了一個基準數據集 KETIBench，包含五種類型的惡意更新和一種類型的良性更新。我們還開發了七種基線識別器,在兩種不同規模的語言模型上進行了42次實驗,結果表明這些識別器能夠達到不錯的識別性能,突出了識別大型語言模型中惡意編輯的可行性。