Der Schmetterlings-Effekt von Prompt-Änderungen: Wie kleine Änderungen und Jailbreaks die Leistung großer Sprachmodelle beeinflussen

Selbst kleine Änderungen an Prompts, wie das Hinzufügen eines Leerzeichens, können die Vorhersagen großer Sprachmodelle erheblich beeinflussen. Bestimmte Formatierungen und Jailbreaks können sogar zu katastrophalen Auswirkungen auf die von Sprachmodellen erstellten Daten führen.