Alapfogalmak
개인정보 보호와 높은 계산 성능을 동시에 달성하기 위해, 저차원 정보 민감 표현과 고차원 잔차 표현으로 구성된 비대칭 데이터 흐름을 활용한다.
Kivonat
이 논문은 개인정보 보호와 높은 계산 성능을 동시에 달성하기 위한 새로운 사설 학습 및 추론 프레임워크 Delta를 제안한다. Delta는 두 가지 비대칭 데이터 흐름을 특징으로 한다:
-
주요 정보 민감 흐름: 저차원 표현 IRmain은 사설 환경에서 작은 모델 Mmain에 의해 학습된다. 이를 통해 민감한 정보가 보호된다.
-
잔차 흐름: 고차원 잔차 표현 IRres는 공개 환경에서 큰 모델 Mres에 의해 학습된다. 이 잔차 정보는 차등 프라이버시 기법과 이진 양자화를 통해 보호된다.
Delta는 다음과 같은 장점을 제공한다:
- 강력한 개인정보 보호: 차등 프라이버시 보장 및 모델 역추적 및 멤버십 추론 공격에 대한 강건성
- 높은 모델 성능: 비대칭 분해를 통해 성능 저하 최소화
- 낮은 계산 복잡도: 저차원 모델 Mmain을 통해 사설 환경의 계산 부담 감소
전반적으로 Delta는 개인정보 보호, 모델 성능, 계산 효율성 간의 균형을 잘 맞추는 일반화된 사설 학습 및 추론 프레임워크이다.
Statisztikák
중요 정보는 대부분 낮은 차원의 표현 IRmain에 포함되어 있다.
잔차 IRres는 매우 작은 정보만 포함하고 있다.
차등 프라이버시 보장을 위해 IRres에 가우시안 노이즈를 추가하고 이진 양자화를 수행한다.
Idézetek
"데이터 프라이버시는 클라우드 기계 학습 서비스 플랫폼에서 매우 중요한 문제이다. 민감한 데이터가 서비스 제공자에게 노출되면 프라이버시 침해가 발생할 수 있다."
"Delta는 비대칭 데이터 흐름을 특징으로 하는 새로운 사설 학습 및 추론 프레임워크이다. 이를 통해 비사설 중앙 학습과 유사한 모델 성능을 달성하면서도 강력한 프라이버시 보호를 제공한다."