本論文では、オンラインの設定で最適な決定木を生成するための新しいアルゴリズムを提案している。
まず、決定木の最適化問題をマルコフ決定過程(MDP)として定式化し、その最適解が最適な決定木に対応することを示している。次に、この最適なMDPを解くためのアルゴリズムとしてThompson Sampling Decision Trees (TSDT)を提案している。TSDTは、Thompson Samplingを用いたMonte Carlo Tree Searchアルゴリズムであり、最適な決定木に確実に収束することが理論的に証明されている。
さらに、TSDTの計算効率を改善したFast-TSDTアルゴリズムも提案している。Fast-TSDTは、内部ノードの価値関数の近似計算を簡略化することで、TSDTよりも高速に動作する。
実験では、従来のヒューリスティックな決定木アルゴリズムであるVFDTやEFDTと比較し、TSDTとFast-TSDTが最適な決定木を確実に見つけられることを示している。また、バッチ学習の最適決定木アルゴリズムであるDL8.5やOSDTとも比較し、提案手法が同等以上の性能を発揮することを確認している。
翻譯成其他語言
從原文內容
arxiv.org
深入探究