The initial experimental conditions and in-loop interventions have a substantial impact on the learning dynamics of Deep Kernel Learning within the realm of autonomous experimentation in Scanning Probe Microscopy.
ProbMCL은 다중 레이블 이미지 분류 작업에서 레이블 의존성을 효과적으로 포착하고 특징 인코더의 불확실성을 탐구하는 새로운 프레임워크이다.
ProbMCL, a simple yet effective framework for multi-label image classification, integrates supervised contrastive learning with Gaussian mixture latent space to capture label dependencies and explore encoder uncertainty, achieving state-of-the-art performance with low computational costs.
3D GAN과 확산 사전을 결합하여 텍스트 가이드 3D 도메인 적응과 아바타 생성 성능을 향상시킨다.
대규모 언어-비전 모델의 성능 향상을 위해 의미 인식 시각 객체 정보를 활용하여 세부적인 언어-비전 정렬과 이해 능력을 향상시킨다.
본 연구는 적대적 공격에 강건한 스파이킹 신경망을 구축하기 위해 기존 인공신경망의 강건성을 활용하는 변환 기반 접근법을 제안한다. 이를 통해 다양한 강건성 향상 기법을 스파이킹 신경망에 효과적으로 적용할 수 있다.
Direct Preference Optimization (DPO) can fine-tune Multilingual Large Language Models (MLLMs) to achieve the gains of Minimum Bayes Risk (MBR) decoding without additional computation during inference.
분산 딥러닝에서 국소 경사 방법(Local Gradient Methods)은 통신 비용을 줄이지만, 적절한 동기화 주기 H를 선택하는 것이 중요하다. 본 연구는 이론적 근거를 바탕으로 H를 학습률의 제곱에 반비례하도록 동적으로 조정하는 이차 동기화 규칙(Quadratic Synchronization Rule, QSR)을 제안한다. ImageNet 실험 결과, QSR은 ResNet-152와 ViT-B에서 기존 동기화 전략보다 높은 테스트 정확도를 달성하면서도 통신 비용을 크게 줄일 수 있음을 보여준다.
分散深層学習において、学習率の減少に応じて同期周期を動的に増加させるQuadratic Synchronization Rule (QSR)を提案する。QSRは通信量を大幅に削減しつつ、最終的な検証精度を向上させることができる。
베이지안 신경망은 불확실성 추정을 위한 유망한 접근법이지만, 데이터 분포 외부에서의 불확실성 포착 능력이 제한적이다. 본 논문에서는 데이터 분포 외부 데이터의 불확실성을 통합하는 새로운 베이지안 신경망 구조를 제안한다.