基於非揮發性記憶體計算的邊緣大型語言模型提示微調框架

本文提出了一種基於非揮發性記憶體計算 (NVCiM) 的邊緣大型語言模型 (LLM) 提示微調框架 (NVCiM-PT)，通過利用 NVCiM 的優勢，有效地儲存和檢索針對特定資料域的最佳虛擬標記 (OVT)，從而提高邊緣 LLM 的效能，並解決了傳統提示微調方法在資源受限環境下的局限性。