Temel Kavramlar
Maschinelles Unlernen ermöglicht das selektive Entfernen von Daten aus Maschinenlernmodellen, um die Einhaltung von Datenschutzbestimmungen zu gewährleisten, ohne die Leistung übermäßig zu beeinträchtigen.
Özet
Diese Übersicht bietet einen umfassenden Einblick in das Gebiet des maschinellen Unlernens, sowohl für traditionelle Modelle als auch für Große Sprachmodelle (LLMs).
Zunächst wird die Taxonomie des maschinellen Unlernens erläutert, einschließlich datengetriebener und modellbasierter Methoden. Datengetriebene Methoden umfassen Datenbeeinflussung/Vergiftung, Datenpartitionierung und Datenaugmentierung, während modellbasierte Methoden Parameterverschiebung, Modellpruning und Modellersatz umfassen.
Für LLMs werden zwei Hauptkategorien von Unlerntechniken identifiziert: parameterbasiertes Unlernen, das Optimierung und Zusammenführung von Parametern umfasst, sowie parameterunabhängiges Unlernen, das auf In-Context-Unlernen (ICuL) basiert.
Verschiedene Evaluierungskriterien werden diskutiert, darunter zeitbasierte, genauigkeitsbasierte, ähnlichkeitsbasierte und angriffsbasierte Metriken sowie theoretische Ansätze. Schließlich werden die Ziele des maschinellen Unlernens, exaktes und approximatives Unlernen, gegenübergestellt.
Die Übersicht schließt mit einer Diskussion der aktuellen Herausforderungen und zukünftigen Forschungsrichtungen im Bereich des maschinellen Unlernens, insbesondere im Hinblick auf die Sicherheit und Datenschutzaspekte von LLMs.
İstatistikler
Keine relevanten Statistiken oder Kennzahlen identifiziert.
Alıntılar
Keine relevanten Zitate identifiziert.