登录
洞察 - 成員推斷攻擊
透過非監督式對比學習進行成員推斷攻擊：CLMIA
本文提出了一種名為 CLMIA 的新型成員推斷攻擊方法，該方法利用非監督式對比學習來訓練攻擊模型，從而更有效地判斷數據樣本是否被用於訓練機器學習模型，特別是在標記身份信息數據有限的現實情況下。
當大型語言模型遇上規模化的成員推斷攻擊：攻擊何時以及如何成功
雖然過往研究認為成員推斷攻擊 (MIA) 對大型語言模型 (LLM) 無效，但本研究證明，當攻擊目標擴大到文件或文件集時，現有的 MIA 方法便能成功。
OSLO：單次查詢、僅憑標籤的成員推斷攻擊
OSLO 是一種新型的成員推斷攻擊，僅需單次查詢目標模型，並僅憑預測標籤，即可高精度地推斷出給定樣本是否屬於目標模型的訓練集。
基於遮罩的檢索增強生成模型成員推斷攻擊
本文提出了一種針對檢索增強生成模型的新型成員推斷攻擊方法，透過遮罩目標文件中特定詞彙並分析模型對遮罩詞彙的預測準確率來判斷目標文件是否存在於模型的知識庫中。
基於單一模態文本的對比式預訓練模型成員推斷檢測器
本文提出了一種名為 USMID 的新型成員推斷檢測器，它僅使用文本數據即可檢測說話者是否在對比式語言音頻預訓練 (CLAP) 模型的訓練數據集中，無需暴露音頻數據，有效保護了用戶隱私。
資料集屬性對深度遷移學習成員推斷漏洞的影響
深度學習模型的成員推斷攻擊 (MIA) 漏洞與資料集屬性密切相關，特別是每個類別的樣本數量，呈現冪律關係。
大型（視覺）語言模型中基於自我比較的資料集級別成員推斷
本文提出了一種新的基於自我比較的成員推斷攻擊方法（SMI），用於判斷一個數據集是否被用於訓練大型語言模型（LLM）和視覺語言模型（VLM）。
大型語言模型的成員推斷攻擊研究現狀：問題與解決方案
現階段針對大型語言模型的成員推斷攻擊存在嚴重缺陷，其依賴的訓練數據收集方法存在偏差，導致結果不可靠，需要更加嚴謹的評估方法。
