Zaloguj się
spostrzeżenie - 도메인 일반화 기계 학습
도메인 일반화를 위한 일반화된 상태 공간 모델 기반 프레임워크
상태 공간 모델(SSM)인 Mamba를 활용하여 도메인 일반화 성능을 향상시키는 새로운 프레임워크 DGMamba를 제안한다. DGMamba는 은닉 상태 억제(HSS)와 의미 인식 패치 정제(SPR)라는 두 가지 핵심 모듈을 포함하여 도메인 특정 정보를 효과적으로 제거하고 일반화 성능을 높인다.
개선된 기준선 ERM++: 도메인 일반화를 위한
ERM++는 도메인 일반화 성능을 기존 ERM 기준선 대비 5% 이상 향상시키며, 최신 SOTA 방법들을 능가한다. 이는 학습 길이, 초기화, 정규화 등 추가적인 하이퍼파라미터 튜닝을 통해 달성된다.
도메인 일반화 평가 프로토콜 재고찰
도메인 일반화 알고리즘의 정확하고 공정한 평가를 위해서는 사전 학습 가중치와 단일 테스트 도메인 사용에 따른 테스트 데이터 정보 누출 문제를 해결해야 한다.
데이터 제한 상황에서 Wasserstein 분포 강건성을 활용한 미지의 도메인 일반화
제한된 소스 지식 하에서 클래스별 Wasserstein 불확실성 집합을 활용하여 최악의 성능을 최소화하는 강건한 분류기를 학습하고, 최적 수송을 이용한 테스트 시간 적응을 통해 미지의 타겟 도메인에 대한 적응적 추론을 수행한다.
Produkty | Zasoby
© 2024 by Linnk AI