Concepts de base
ニューラルネットワークを用いた能動学習のアプローチを提案し、従来のバンディット手法の問題点を解決する。ストリーム型と プール型の両方の能動学習設定で、理論的保証と優れた実験結果を示す。
Résumé
本論文では、ニューラルネットワークを用いた新しい能動学習アルゴリズムを提案している。従来のバンディット手法ベースの能動学習手法には、クラス数Kに依存した計算コストと性能劣化の問題があった。
提案手法の特徴は以下の通り:
損失関数をより一般的な有界損失に拡張し、クラス数Kの影響を軽減する。
入出力ネットワークを再設計し、Kに依存しない次元の入力と同時出力を実現する。
探索ネットワークの入力に新しい埋め込み表現を導入し、Kの影響を低減する。
ストリーム型アルゴリズムNEURONAL-Sと、プール型アルゴリズムNEURONAL-Pを提案する。
理論的には、NEURONAL-Sの累積リグレットがバンディット手法に比べてKの影響を受けにくいことを示した。NEURONAL-Pについても、非パラメトリック設定でのリグレット上界を導出した。
実験では、ストリーム型・プール型の両設定で、提案手法が従来手法を大きく上回る性能を示した。特に、クラス数Kが大きい場合の性能改善が顕著であった。
Stats
提案手法NEURONAL-Sは、バンディット手法に比べて、クラス数Kが大きい場合でも、テスト精度が大幅に向上し、計算時間も大幅に短縮された。
提案手法NEURONAL-Pは、従来手法に比べて、全てのデータセットでテスト精度が高く、計算時間も大幅に短縮された。