Die Arbeit befasst sich mit der Erklärbarkeit von Ranking-Modellen, die in Informationsrückgewinnungssystemen eingesetzt werden. Bisherige Ansätze zur Merkmalsattribution haben sich meist darauf beschränkt, die wichtigsten Merkmale zu identifizieren, ohne deren relative Wichtigkeit zu berücksichtigen.
Die Autoren stellen ein neues Verfahren namens RankingSHAP vor, das die Merkmalsattribution für Ranking-Modelle rigoros definiert und die relativen Beiträge der Merkmale zur Rangfolge der Dokumente erklärt. RankingSHAP basiert auf dem SHAP-Verfahren, wurde aber speziell für Ranking-Modelle angepasst.
Die Autoren evaluieren RankingSHAP sowohl qualitativ als auch quantitativ auf gängigen Datensätzen für Learning-to-Rank. Sie zeigen, dass RankingSHAP im Vergleich zu anderen Erklärungsansätzen die relativen Wichtigkeiten der Merkmale genauer abbildet und so ein detaillierteres Verständnis der Modellentscheidungen ermöglicht. Dies ist insbesondere für Ranking-Aufgaben wichtig, da hier die Entscheidungen oft das Ergebnis komplexer Wechselwirkungen zwischen Merkmalen sind.
إلى لغة أخرى
من محتوى المصدر
arxiv.org
الرؤى الأساسية المستخلصة من
by Maria Heuss,... في arxiv.org 03-26-2024
https://arxiv.org/pdf/2403.16085.pdfاستفسارات أعمق