Min-p 抽樣是一種新的動態截斷方法,透過根據模型對下一個詞彙的預測信心調整抽樣閾值,來平衡大型語言模型生成文本的創造力和一致性,尤其在高溫設定下表現更佳。
本文提出了一種稱為「位置ID」的新方法,用於增強大型語言模型的文本生成能力,使其能夠更精確地控制生成文本的長度,並實現準確的複製和粘貼功能。