Ein sicherer Rahmen für die Text-zu-Bild-Generierung: Latent Guard
Latent Guard ist ein Sicherheitsrahmenwerk, das die Erkennung schädlicher Konzepte in Eingabeaufforderungen für Text-zu-Bild-Generatoren ermöglicht, um die Erstellung unerwünschter Inhalte zu verhindern.
Generative Modell zur Erzeugung vielfältiger und effektiver Angriffsvektoren für die Umgehung von Sicherheitsmaßnahmen in großen Sprachmodellen
Ein generatives Modell namens AmpleGCG, das die Verteilung von Angriffsvektor-Suffixen für beliebige schädliche Abfragen erfasst und die schnelle Generierung von Hunderten erfolgreicher Angriffsvektor-Suffixe ermöglicht.
Sicherheitsrisiken durch die Integration von Bildmodellen in Multimodale Große Sprachmodelle
Die Integration von Bildmodellen in Multimodale Große Sprachmodelle (MLLMs) birgt erhebliche Sicherheitsrisiken, die durch verschiedene Angriffsvektoren ausgenutzt werden können, um die Funktionalität und Zuverlässigkeit dieser Systeme zu untergraben.
Angriff auf Prompt-Steuerung: Ein kontrollierbarer Angriff auf Diffusions-Modelle
Unser Ansatz ermöglicht es Text-zu-Bild-Modellen mit Sicherheitsverteidigungsmechanismen, semantisch reiche Inhalte, die nicht jugendfrei sind, zu generieren und Schwachstellen in aktuellen Verteidigungsmechanismen aufzuzeigen.
Verteidigung gegen indirekte Prompt-Injektions-Angriffe mit Spotlighting
Spotlighting, eine Familie von Prompt-Engineering-Techniken, kann die Fähigkeit von Sprachmodellen verbessern, zwischen gültigen Systemanweisungen und unsicheren externen Eingaben zu unterscheiden, um so Prompt-Injektions-Angriffe abzuwehren.
© 2024 by Linnk AI