Alapfogalmak
Die Studie präsentiert eine Methode zur Verbesserung der selektiven Rationalisierung, indem potenzielle Abkürzungen in den Daten entdeckt und genutzt werden, um genauere Vorhersagen und plausiblere Begründungen zu erzielen.
Kivonat
Die Studie befasst sich mit der selektiven Rationalisierung, bei der neuronale Netzwerke nicht nur Vorhersagen treffen, sondern auch erklären, welche Teile des Eingabetexts für die Vorhersage relevant sind (Rationale).
Die Autoren identifizieren zwei Hauptprobleme bestehender Methoden:
Unsupervised-Rationalisierung-Methoden neigen dazu, Abkürzungen in den Daten zu nutzen, um Vorhersagen zu treffen, anstatt die tatsächlichen Zusammenhänge zu erfassen.
Supervised-Rationalisierung-Methoden, die menschlich annotierte Rationale verwenden, sind aufgrund des hohen Annotationsaufwands nur begrenzt einsetzbar.
Um diese Probleme zu lösen, schlagen die Autoren eine Methode namens "Shortcuts-fused Selective Rationalization" (SSR) vor, die wie folgt funktioniert:
Entdeckung potenzieller Abkürzungen: Durch den Vergleich von Rationales, die von einem trainierten unsupervidierten Rationalisierungsmodell extrahiert wurden, mit menschlich annotierten Rationales, können potenzielle Abkürzungen identifiziert werden.
Zwei Strategien zur Nutzung der Abkürzungen: a) Einbindung der Abkürzungen in die Vorhersage, um deren Einfluss zu reduzieren. b) Virtuelle Repräsentation der Abkürzungen, um deren Wissen in die unsupervidierten Phasen zu übertragen.
Datenaugmentierung unter Verwendung der identifizierten Abkürzungen, um die Lücke zwischen den Datensätzen mit und ohne menschliche Annotationen zu schließen.
Die Experimente auf fünf Datensätzen zeigen, dass SSR die Leistung sowohl bei der Vorhersage als auch bei der Generierung von Rationales im Vergleich zu bestehenden Methoden deutlich verbessert.
Statisztikák
Die Filme haben in Rezensionsportalen eine lauwarme Resonanz erhalten.
Was mich erwartete, war ein enttäuschender und überlanger Film, der alles andere als das beste Bild von 1995 war.
Was ihn herunterzieht, ist sein Drehbuch.
Er ist reich an hochwertigen Produktionswerten.
Idézetek
"Unsupervised rationalization methods inevitably compose rationales with both the gold rationale and shortcuts tokens."
"Extensive annotated rationales are infeasible to obtain for most tasks, rendering this method unavailable."
"SSR explicitly exploits shortcuts in the data to yield more accurate task results and extract more plausible rationales."