기계 학습 모델 보안

데이터 분포 추론 공격 분석

데이터 분포 추론 공격은 기계 학습 모델의 학습 데이터에 대한 통계적 특성을 추론하는 것을 목표로 한다. 이러한 공격은 때때로 놀라울 정도로 강력하지만, 분포 추론 위험에 영향을 미치는 요인은 잘 이해되지 않으며, 실제로는 비현실적인 가정에 의존하는 경우가 많다. 이 연구에서는 기존 공격보다 성능이 뛰어난 새로운 블랙박스 공격을 개발하고, 다양한 가정을 완화하면서 분포 추론 위험을 평가한다. 또한 기존에 제안된 방어 기법의 효과를 평가하고 새로운 방어 기법을 소개한다. 노이즈 기반 방어 기법은 효과적이지 않지만, 간단한 재샘플링 방어 기법이 매우 효과적일 수 있음을 발견했다.

데이터 분포 추론 공격 분석

기계 학습 모델 추출 공격을 위한 개인 반사실적 설명 기반 지식 증류

데이터 삭제에 대한 기계 학습 모델의 취약점 탐구

데이터 유출을 야기하는 프리트레인된 모델의 프라이버시 백도어

기계 학습 모델에 대한 백도어 공격: 소량의 입력 샘플로 프롬프트 튜닝 기반 트로이 삽입