Основні поняття
Fides는 신뢰할 수 있는 실행 환경에서 실행되는 효율적인 검증 모델을 통해 ML 서비스 추론의 무결성을 검증하는 새로운 프레임워크이다.
Анотація
이 논문은 ML 서비스(MLaaS) 추론의 무결성 검증을 위한 Fides라는 새로운 프레임워크를 제안한다. Fides는 두 가지 주요 구성 요소로 구성된다:
Greedy Distillation Transfer Learning (GDTL): 서비스 모델의 지식을 점진적으로 압축된 검증 모델에 전달하는 효율적인 모델 증류 기술. 이를 통해 자원 제한적인 환경에서도 검증 모델을 구축할 수 있다.
생성적 적대 신경망 기반 공격 탐지 및 재분류 모델: 서비스 모델과 검증 모델 간의 출력 차이를 분석하여 공격을 탐지하고 원래의 결과를 예측하는 모델. 이 모델은 알려진 공격 서명에 의존하지 않고 다양한 공격에 강인하다.
Fides는 CIFAR-10, CIFAR-100, ImageNet 데이터셋과 ResNet, DenseNet, EfficientNet 아키텍처를 사용하여 평가되었다. 실험 결과 Fides는 기존 솔루션 대비 4.8배~26.4배 더 빠른 속도로 높은 공격 탐지 및 재분류 정확도를 달성했다.
Статистика
공격 탐지 정확도는 최대 98%까지 달성했다.
공격 재분류 정확도는 최대 94%까지 달성했다.
Цитати
"Fides는 신뢰할 수 있는 실행 환경에서 실행되는 효율적인 검증 모델을 통해 ML 서비스 추론의 무결성을 검증하는 새로운 프레임워크이다."
"Fides는 CIFAR-10, CIFAR-100, ImageNet 데이터셋과 ResNet, DenseNet, EfficientNet 아키텍처를 사용하여 평가되었으며, 기존 솔루션 대비 4.8배~26.4배 더 빠른 속도로 높은 공격 탐지 및 재분류 정확도를 달성했다."