Die Studie präsentiert einen neuartigen Ansatz zur Prompt-Optimierung, der Metaheuristiken mit Prompt-Lernen kombiniert. Dieser Ansatz, genannt "Prompt learning using metaheuristic" (Plum), behandelt das Prompt-Lernen als ein diskretes, gradientenfreies Optimierungsproblem und nutzt die Leistungsfähigkeit von Metaheuristiken, um effektive und interpretierbare Prompts zu finden.
Der Plum-Rahmen besteht aus vier Schlüsselelementen: einer definierten Nachbarschaft für Prompts, einem Metaheuristik-Algorithmus, metaheuristik-spezifischen Hyperparametern und einer Zielfunktion. Sechs typische Plum-Algorithmen werden implementiert und evaluiert: Hill Climbing, Simulated Annealing, Genetische Algorithmen (mit und ohne Crossover), Tabu-Suche und Harmony-Suche.
Die Experimente zeigen, dass Plum-Algorithmen im Vergleich zu bestehenden Prompt-Lernmethoden sowohl in weißen als auch in schwarzen Boxmodellen signifikante Leistungsverbesserungen erzielen können, und zwar mit deutlich weniger API-Aufrufen. Darüber hinaus können die Plum-Algorithmen neue, menschlich verständliche Prompt-Muster entdecken, die bisher unbekannt waren, sowohl für Reasoning- als auch für Bildgenerierungsaufgaben.
Til et annet språk
fra kildeinnhold
arxiv.org
Viktige innsikter hentet fra
by Rui Pan,Shuo... klokken arxiv.org 03-15-2024
https://arxiv.org/pdf/2311.08364.pdfDypere Spørsmål