本論文は、半教師あり学習(SSL)における自己学習手法の新しいアプローチを提案している。
まず、f-divergence及びα-Rényi divergenceに基づいた新しい経験的リスク関数(DER)を導入する。これらのDERは、教師あり学習(SL)及び半教師あり学習(SSL)の文脈で定義されている。
次に、DERを擬似ラベリングとエントロピー最小化といった自己学習手法に適用する。擬似ラベリングでは、DERを用いて擬似ラベルを生成し、これらの擬似ラベルを使って学習を行う。エントロピー最小化では、D-エントロピーを正則化項として導入し、ラベル予測の不確実性を最小化する。
提案手法の理論的な分析も行われている。特に、ある種のDERは距離尺度を満たすため、完全教師あり学習(FSL)のリスクに対する上界を導出できることが示されている。
最後に、様々なデータセットを用いた実験結果が示されている。提案手法は、擬似ラベルの誤りに対してより頑健な性能を示すことが確認された。
To Another Language
from source content
arxiv.org
Key Insights Distilled From
by Gholamali Am... at arxiv.org 05-02-2024
https://arxiv.org/pdf/2405.00454.pdfDeeper Inquiries