Leistungsgrundlagen für die Feinabstimmung, die retrieval-unterstützte Generierung und das Soft-Prompting für Nicht-Spezialisten von LLMs

Dieser Artikel vergleicht die Leistung von GPT-3.5 in seiner unveränderten Form, einer feinabgestimmten Version und derselben unveränderten Version mit Zugriff auf eine vektorisierte RAG-Datenbank, sowohl isoliert als auch in Kombination mit einem einfachen, nicht-algorithmischen Systempromoter. Die Ergebnisse zeigen, dass die RAG-Methode sowohl die feinabgestimmte als auch die unveränderte Version übertrifft, und dass der Einsatz eines Systempromoters die Leistung jedes Ansatzes deutlich verbessert.