核心概念
ラベルノイズの影響を最小限に抑えるため、ラベルとサンプルの重み付けを動的に調整する学習手法を提案する。
要約
本論文では、ラベルノイズに対してロバストなモデルを構築する新しい手法「Learning to Bootstrap (L2B)」を提案している。L2Bは、真のラベルと生成されたラベル(擬似ラベル)の重みを動的に調整し、さらにサンプルの重みも同時に調整することで、ラベルノイズの影響を効果的に軽減する。
具体的には以下の特徴がある:
- 真のラベルと擬似ラベルの重みを固定せず、動的に調整することで、ノイズの影響を抑える
- サンプルの重みも同時に調整することで、ノイズの大きいサンプルの影響を低減
- メタラーニングを用いて、クリーンなバリデーションデータを使って最適な重みを学習
- 既存のラベルノイズ対策手法と組み合わせることで、さらなる性能向上が可能
実験では、CIFAR-10、CIFAR-100、ISIC2019、Clothing 1Mなどのデータセットで、ノイズの高い環境下でも高い精度を達成している。特に、既存手法と組み合わせることで大幅な性能向上が確認された。
統計
CIFAR-100データセットにおいて、ノイズ比率50%の場合、提案手法L2Bは64.5%の精度を達成し、ベースラインの44.4%から大幅に改善された。
ISIC2019データセットにおいて、ノイズ比率50%の場合、提案手法L2Bは76.8%の精度を達成し、ベースラインの73.7%から改善された。
引用
"L2B offers several benefits over the baseline methods. It yields more robust models that are less susceptible to the impact of noisy labels by guiding the bootstrapping procedure more effectively."
"L2B is compatible with existing LNL methods and delivers competitive results spanning natural and medical imaging tasks including classification and segmentation under both synthetic and real-world noise."