核心概念
未知の目的関数と制約条件を持つ最適化問題に対して、二次近似を用いた安全な零次最適化手法を提案する。この手法は、各反復で局所的な二次近似を構築し、それに基づいて最適化を行うことで、全ての試行点が実行可能となることを保証する。
摘要
本論文では、未知の目的関数と制約条件を持つ最適化問題に対して、安全性を保証しつつ効率的に最適化を行う手法を提案している。
主な手順は以下の通り:
- 初期の実行可能点から出発し、局所的な二次近似を構築する。この近似は、関数の滑らかさに関する事前情報を利用して作成される。
- 構築した近似に基づいて、局所的な実行可能集合を定義する。この集合は凸集合であり、全ての試行点が実行可能となることが保証される。
- 局所的な実行可能集合上で、目的関数を最小化する二次計画問題を解く。
- 反復を続け、一定の収束条件を満たした時点で、近似KKT条件を満たす解を出力する。
提案手法は、目的関数と制約条件が非凸の場合でも、漸近的に最適解に収束することが示されている。さらに、所望の精度を持つ近似KKT解を有限回の反復で得られることも証明されている。
数値実験の結果、提案手法は既存の安全な零次最適化手法と比べて、より少ない試行回数で高速に収束することが確認された。また、最適制御問題や最適電力流問題への適用例も示されており、商用ソルバと同等の解が得られることが示された。
统计
問題次元dに対して、O(d/η^2)回の反復と、O(d^2/η^2)回の試行で、η-KKT解が得られる。
初期点x0が実行可能であり、目的関数の下限値がf0(x0)未満であるとき、C1 > 0が存在して、f0(x0) - inf{f0(x) : x ∈ Ω} < C1が成り立つ。
引用
"未知の目的関数と制約条件を持つ最適化問題に対して、安全性を保証しつつ効率的に最適化を行う手法を提案している。"
"提案手法は、目的関数と制約条件が非凸の場合でも、漸近的に最適解に収束することが示されている。"
"所望の精度を持つ近似KKT解を有限回の反復で得られることも証明されている。"