本文提出了一個名為"用於異常檢測的元提示語義學習與局部感知注意力圖像編碼器"的無人工干預的自動提示異常檢測框架。該框架採用數據驅動的方法,利用反向傳播找到最佳的提示嵌入,而不是被動地組合所有可能的人工語義提示來滿足基於提示的異常檢測要求。
為了解決在培訓階段缺乏異常樣本的限制,我們開發了物體注意力異常生成模塊(OAGM)來合成異常樣本進行培訓。此外,為了防止學習到的提示過度擬合於合成的異常特徵,我們提出了元引導提示調整方案(MPTS),通過迭代調整梯度優化方向來避免過度擬合於合成的異常。
此外,我們引入了局部感知注意力機制,可以應用於任何基於變換器的模型,以緩解輸入令牌特徵和相應輸出令牌特徵之間的不一致。這種機制通過限制注意力範圍來保留重要的局部細節,增強了輸入特徵和輸出令牌之間的對齊。
實驗結果表明,我們的框架在缺乏異常樣本的情況下,通過數據驅動的方式優化提示嵌入,可以顯著優於手工設計的提示。這項工作為未來研究開發更複雜的異常檢測模型提供了新的思路,這些模型可以適應各種實際場景,而無需過多的人工干預。
翻譯成其他語言
從原文內容
arxiv.org
深入探究