Automatisierte Generierung von Jailbreak-Prompts zur Überprüfung der Sicherheit von Großsprachmodellen

Tastle ist ein neuartiger Black-Box-Jailbreak-Rahmen, der effektive, kohärente und flüssige Jailbreak-Prompts automatisch generiert, um die Sicherheit von Großsprachmodellen zu überprüfen.