Основные понятия
シミュレーション最適化を用いて、事前定義されたスコアを最大化するプロンプトを選択する。
Аннотация
本研究では、言語モデルのプロンプト選択問題をシミュレーション最適化の問題として扱う。具体的には以下の2段階のフレームワークを提案する:
- 検索段階:
- 初期の例示プロンプトをテキストオートエンコーダを用いてベクトル表現に変換する。
- これらのベクトルを摂動し、より多くのプロンプトを生成する。
- 主成分分析を用いて、ベクトルの次元を中程度の次元に削減する。これらの中程度次元ベクトルを「ソフトプロンプト」と呼ぶ。
- 評価・選択段階:
- ソフトプロンプトに対する観測スコアに基づいて、ベイズ型パラメトリックモデルによるサロゲートモデルを構築する。
- サロゲートモデルに基づいて獲得関数を最適化し、次に評価するソフトプロンプトを決定する。
- 新しい観測スコアを得て、サロゲートモデルと獲得関数を更新する。
この2段階のフレームワークにより、プロンプト選択問題に対して効率的な解決策を提供する。
Статистика
言語モデルに入力されたプロンプトとベースラインの入出力ペアから計算されるスコアは、プロンプトの性能を定量的に表す。
観測されたスコアは、プロンプトの平均スコアと観測誤差の和として表される。
Цитаты
"言語モデルのプロンプト選択は、小規模企業や非営利組織にとって重要な課題である。手動でのプロンプト設計は時間とコストがかかるため、より効率的な方法が求められている。"
"シミュレーション最適化の手法を用いることで、プロンプト選択問題に対する効率的なソリューションを提供できる。"