Zaloguj się
spostrzeżenie - Sicherheit Großsprachmodelle
Sicherheitsausrichtung von Großsprachmodellen kann nach hinten losgehen: Eine Methode zur emulierenden Fehlanpassung
Sicherheitsausrichtung von Großsprachmodellen kann leicht rückgängig gemacht werden, um schädliche Sprache zu erzeugen, ohne zusätzliches Training.
Verschleiern von Verteidigungsabsichten: Ein Multi-Agenten-Angreifer-Verschleierungs-Spiel zur Verbesserung der Verteidigung von Großsprachmodellen
Durch ein Multi-Agenten-Spiel zwischen Angreifer und Verschleierungsagent kann das Großsprachmodell seine Fähigkeit verbessern, Verteidigungsabsichten zu verschleiern und gleichzeitig sicher zu antworten.
Einfache adaptive Angriffe ermöglichen das Umgehen der Sicherheitsmaßnahmen führender, auf Sicherheit ausgerichteter Großsprachmodelle
Selbst die neuesten, auf Sicherheit ausgerichteten Großsprachmodelle sind nicht robust gegen einfache adaptive Jailbreaking-Angriffe. Durch den Einsatz manuell entworfener Prompt-Vorlagen und zufälliger Suche können fast 100% Erfolgsquote bei Angriffen auf GPT-3.5/4, Llama-2-Chat, Gemma, R2D2 und Claude-Modelle erreicht werden.
Produkty | Zasoby
© 2024 by Linnk AI