本論文は、大規模言語モデルのプロンプト最適化における課題である低収束率を解決するために、デュアルフェーズアプローチを提案している。
初期フェーズでは、タスクに関する詳細な情報を含む高品質な初期プロンプトを生成する。これにより、最適化プロセスの効率を高めることができる。
最適化フェーズでは、過去の失敗事例を活用して、プロンプト候補の生成と選択を行う。具体的には、プロンプトの各文を個別に最適化し、過去の経験に基づいて効果的な最適化方向を特定する。これにより、短時間で満足のいく性能を得ることができる。
実験の結果、提案手法は既存手法と比較して、8つのデータセットにおいて平均10.7%、16.4%、29.7%の精度向上を達成した。また、わずか4ステップの最適化で高い性能を得ることができた。
A otro idioma
del contenido fuente
arxiv.org
Ideas clave extraídas de
by Muchen Yang,... a las arxiv.org 10-03-2024
https://arxiv.org/pdf/2406.13443.pdfConsultas más profundas