Sequence Salience ist ein interaktives, visuelles Tool, das Entwickler beim Prompt-Debugging unterstützt, indem es Eingabe-Salienz-Methoden verwendet, um zu verstehen, welche Teile des Eingabetexts für das Modell am relevantesten sind.
Das System baut auf weit verbreiteten Salienz-Methoden für Textklassifizierung und Einzeltoken-Vorhersage auf und erweitert diese, um ein System zu schaffen, das speziell für das Debugging komplexer LLM-Prompts geeignet ist. Es bietet eine kontrollierbare Aggregation der Token-Salienz auf Wort-, Satz- oder Absatzebene, um die Salienz über lange Eingaben handhabbar zu machen. Außerdem unterstützt es schnelle Iterationen, bei denen Praktiker auf die Salienz-Ergebnisse reagieren, Prompts verfeinern und die neuen Ausgaben analysieren können.
Das System wird in mehreren Fallstudien demonstriert, die zeigen, wie Sequence Salience Praktiker beim Arbeiten mit komplexen Prompting-Strategien wie Few-Shot, Chain-of-Thought und Verfassungsprinzipien unterstützen kann.
Sequence Salience ist in das Learning Interpretability Tool (LIT), eine Open-Source-Plattform für ML-Modell-Visualisierungen, integriert. Der Code, Notebooks und Tutorials sind unter http://goo.gle/sequence-salience verfügbar.
Başka Bir Dile
kaynak içeriğinden
arxiv.org
Önemli Bilgiler Şuradan Elde Edildi
by Ian Tenney,R... : arxiv.org 04-12-2024
https://arxiv.org/pdf/2404.07498.pdfDaha Derin Sorular