이 논문은 분산형 협업 추천 시스템(DecRecs)에서의 모델 오염 공격과 이에 대한 대응책을 다룹니다.
DecRecs는 중앙 서버 대신 사용자 기기에서 모델 학습이 이루어지는 추천 시스템 패러다임입니다. 사용자 간 지식(예: 모델 gradient) 공유를 통해 로컬 모델을 학습합니다.
모델 지식 공유는 악의적인 사용자가 모델을 오염시켜 목표 아이템의 노출을 높이는 공격의 취약점이 됩니다. 기존 연구는 주로 중앙 서버 기반 추천 시스템(FedRecs)에 초점을 맞추었지만, DecRecs에는 적용하기 어려운 한계가 있습니다.
이 논문은 PAMN이라는 새로운 모델 오염 공격 방법을 제안합니다. PAMN은 악의적 사용자가 이웃 사용자와의 협업을 통해 적응적으로 gradient를 생성하고 전파하여 목표 아이템의 노출을 높입니다.
또한 UCSU라는 사용자 수준의 방어 메커니즘을 제안합니다. UCSU는 gradient 클리핑과 희소 업데이트를 통해 모델 오염 공격의 영향을 최소화합니다.
실험 결과, PAMN은 기존 공격 방법보다 효과적이며, UCSU는 추천 성능 저하를 최소화하면서 공격을 효과적으로 방어할 수 있음을 보여줍니다.
לשפה אחרת
מתוכן המקור
arxiv.org
תובנות מפתח מזוקקות מ:
by Ruiqi Zheng,... ב- arxiv.org 04-02-2024
https://arxiv.org/pdf/2404.01177.pdfשאלות מעמיקות