Die Effektivität von großen Sprachmodellen bei der Erkennung von Out-of-Distribution
Große Sprachmodelle sind effektiv bei der Erkennung von Out-of-Distribution, insbesondere durch die Verwendung von Cosinus-Abstand als einfacher Detektor.
COOD: Kombinierte Out-of-Distribution-Erkennung mit mehreren Maßnahmen für Anomalie- und neuartige Klassenerkennung in groß angelegter hierarchischer Klassifizierung
Die Kombination verschiedener Out-of-Distribution-Maßnahmen übertrifft einzelne Maßnahmen signifikant und ist entscheidend für die Erkennung von Anomalien und neuartigen Klassen.
COOD: Kombinierte Out-of-Distribution-Erkennung mit mehreren Maßnahmen für Anomalie- und neuartige Klassenerkennung in groß angelegter hierarchischer Klassifizierung
Ein kombiniertes Maß für Out-of-Distribution (OOD) übertrifft einzelne Maßnahmen signifikant und die Diskrepanz zwischen linearen und kNN-Vorhersagen ist ein wichtiger neuer Indikator für die Erkennung neuer Klassen.
Bi-Encoder-basierte Detektoren für Out-of-Distribution-Erkennung in der Verarbeitung natürlicher Sprache
Die vorgeschlagenen Bi-Encoder-basierten Detektoren zeigen ein großes Potenzial für die Out-of-Distribution-Erkennung in der natürlichen Sprachverarbeitung. Die Einfachheit des Trainingsprozesses und die überlegene Erkennungsleistung machen sie für Anwendungen in der realen Welt geeignet.
Verbesserte Erkennung von Verteilungsverschiebungen durch multitestbasierte schichtweise Merkmalsintegration
Unser vorgeschlagenes Framework MLOD nutzt die Hierarchie der Merkmale in tiefen neuronalen Netzen, um Verteilungsverschiebungen zwischen Testdaten und Trainingsdaten effizient zu erkennen.
Entdeckung moderner Out-of-Distribution-Erkennungsalgorithmen: Eine Analyse der Empfindlichkeit gegenüber semantischen und kovariaten Verschiebungen
Moderne Out-of-Distribution-Erkennungsalgorithmen sind empfindlicher gegenüber kovariaten Verschiebungen als gegenüber semantischen Verschiebungen. Selbst bei minimaler kovariater Verschiebung bringen diese Algorithmen nur geringe Verbesserungen gegenüber der einfachen Maximum-Softmax-Wahrscheinlichkeit-Baseline.
