Log på
indsigt - Jailbreak-Angriffe auf Großsprachmodelle
Wie man einen Artikel über das Thema schreibt - Der Crescendo-Mehrfach-Durchbruch-Angriff auf LLMs
Crescendo ist ein neuartiger Mehrfach-Jailbreak-Angriff, der darauf abzielt, die Sicherheitsausrichtung von Großsprachmodellen zu umgehen, indem er schrittweise und scheinbar harmlose Eingaben verwendet.
Wie man Malware in harmlose Narrative einbettet: Jailbreak von Großsprachmodellen durch Logikketten-Injektion
Dieser Artikel präsentiert eine neue Methode, um Großsprachmodelle (LLMs) zu manipulieren und gleichzeitig auch Menschen zu täuschen. Die Kernidee ist es, die bösartige Absicht in eine Kette von harmlosen Erzählungen zu zerlegen und diese dann in einen verwandten, unverfänglichen Artikel einzubetten, um sowohl das LLM als auch den menschlichen Sicherheitsanalysten zu täuschen.
Produkter | Ressourcer
© 2024 by Linnk AI