Khái niệm cốt lõi
本稿では、アクチュアリアルニューラルネットワーク(CANN)のハイパーパラメータ最適化に、応答曲面法(RSM)を用いた効率的な手法を提案し、従来のグリッドサーチよりも少ない実験回数で最適な設定を特定できることを示しています。
論文情報
Belguutei Ariuntugs, Kehelwala Dewage Gayan Maduranga. (2024). Optimization of Actuarial Neural Networks with Response Surface Methodology. Actuarial Research Conference (ARC) 2024.
研究目的
本研究は、保険数理アプリケーションに用いられるアクチュアリアルニューラルネットワーク(CANN)のハイパーパラメータ最適化において、応答曲面法(RSM)を用いた効率的な手法を提案し、その有効性を検証することを目的としています。
方法
本研究では、フランスの自動車保険ポートフォリオデータセットを用いて、CANNモデルのハイパーパラメータ最適化を行いました。まず、初期実験として、各ハイパーパラメータの範囲を定義し、2レベルの要因配置計画法を用いて実験を行いました。次に、初期実験の結果に基づいて、最急降下法を用いて最適なハイパーパラメータの領域を探索しました。最後に、最適な領域を中心とした中心複合計画法を用いて、より詳細な実験を行い、2次応答曲面モデルを作成しました。
結果
実験の結果、RSMを用いることで、従来のグリッドサーチよりも少ない実験回数で、最適なハイパーパラメータの組み合わせを特定できることが確認できました。具体的には、RSMを用いた場合、グリッドサーチと比較して、必要な反復回数を86.8%から98.2%削減することができました。
結論
本研究では、CANNのハイパーパラメータ最適化にRSMを用いることの有効性を示しました。RSMは、従来のグリッドサーチよりも効率的に最適なハイパーパラメータを探索することができ、計算コストの削減に貢献します。
意義
本研究は、アクチュアリアルサイエンスにおける機械学習の応用、特にニューラルネットワークのハイパーパラメータ最適化において、RSMの有効性を示した点で意義があります。
限界と今後の研究
本研究では、CANNモデルのハイパーパラメータ最適化に焦点を当てていますが、他の機械学習アルゴリズムへのRSMの適用可能性については、今後の研究課題として挙げられます。また、本研究では、限られた数のハイパーパラメータを対象としていますが、より多くのハイパーパラメータを考慮したRSMの有効性についても、今後の検証が必要です。
Thống kê
このデータセットには、678,007 件の保険契約が含まれています。
トレーニングセットには、データポイントの 80%(542,405 件)をランダムに割り当てます。
テストセットには、残りの 20%(135,601 件)のデータを使用します。
完全なハイパーパラメータチューニング設計では 146 回の実行が必要になりました。
削減されたハイパーパラメータチューニング設計では 46 回の実行が必要になりました。
RSM では、GS と比較して必要な反復回数を 86.8% から 98.2% 削減できました。