본 연구는 심층 신경망(DNN)의 보안 취약성 문제에 주목하였다. DNN은 통신 및 네트워크 보안 분야에서 점점 더 중요해지고 있지만, 내부 구조가 불투명하여 악의적인 공격에 취약하다. 특히 백도어 공격은 훈련 데이터를 오염시켜 모델의 악의적인 행동을 주입하는 방식으로, 통신 시스템에 심각한 위협이 될 수 있다.
이에 본 연구는 IVA, MCCA, PARAFAC2 등의 고급 텐서 분해 알고리즘을 활용하여 사전 학습된 DNN 모델의 가중치를 분석하고, 백도어가 삽입된 모델과 깨끗한 모델을 효과적으로 구분하는 새로운 접근법을 제안하였다. 이 방법은 모델 학습 데이터에 대한 접근 없이도 백도어를 탐지할 수 있어, 실제 환경에서의 활용성이 높다.
실험 결과, 제안 방법은 이미지 분류와 객체 탐지 등 다양한 컴퓨터 비전 과제에서 기존 방법들보다 우수한 성능을 보였다. 이는 DNN 기반 통신 시스템의 보안을 강화하는 데 기여할 것으로 기대된다.
In eine andere Sprache
aus dem Quellinhalt
arxiv.org
Wichtige Erkenntnisse aus
by Khondoker Mu... um arxiv.org 03-14-2024
https://arxiv.org/pdf/2403.08208.pdfTiefere Fragen