이 논문은 기존 딥러닝 모델의 두 가지 주요 문제점, 즉 생물학적 타당성 부족과 적대적 취약성을 해결하기 위한 새로운 학습 방식인 Fermi-Bose 기계(FBM)를 제안한다.
FBM은 역전파 알고리즘 대신 지역 대비 학습을 사용한다. 입력 데이터 쌍을 보손(boson) 쌍과 페르미온(fermion) 쌍으로 구분하고, 보손 쌍의 거리는 최소화하고 페르미온 쌍의 거리는 목표 거리까지 늘리는 방식으로 학습한다. 이를 통해 의미 있는 표현 공간이 자연스럽게 형성된다.
통계 역학 분석 결과, 페르미온 쌍 거리가 핵심 매개변수임을 보여준다. 실험 결과에서도 이 거리를 조절함으로써 표준 신경망 모델 대비 일반화 성능과 적대적 강건성이 크게 향상됨을 확인할 수 있다. 이는 FBM이 인간 인지 처리와 유사한 의미 있는 표현을 학습할 수 있음을 시사한다.
A otro idioma
del contenido fuente
arxiv.org
Ideas clave extraídas de
by Mingshan Xie... a las arxiv.org 04-23-2024
https://arxiv.org/pdf/2404.13631.pdfConsultas más profundas