核心概念
Trotz technologischer Durchbrüche hat die Forschung zu erklärbarer Künstlicher Intelligenz (XAI) nur begrenzt Erfolg bei der Bereitstellung der von Nutzern benötigten effektiven Erklärungen. Um die Benutzerfreundlichkeit, praktische Interpretierbarkeit und Wirksamkeit von XAI-Systemen für echte Nutzer zu verbessern, konzentriert sich der aufstrebende Bereich der erklärbaren Schnittstellen (EI) auf die Benutzeroberfläche und das Benutzererlebnis-Design von XAI.
摘要
Die Studie präsentiert eine systematische Umfrage von 53 Veröffentlichungen, um aktuelle Trends in der Mensch-XAI-Interaktion und vielversprechende Richtungen für das EI-Design und die Entwicklung zu identifizieren. Dies ist eine der ersten systematischen Umfragen zur EI-Forschung.
Die Umfrage zeigt, dass die überwiegende Mehrheit der XAI-Publikationen (84,9%) Menschen einbeziehen, um das XAI-System zu evaluieren, während nur 28,3% in der Analysephase Nutzer einbinden. Weniger als ein Drittel der XAI-Forschung hat vor der Entwicklung von XAI-Lösungen eine Form der Nutzerforschung durchgeführt.
Bei der Gestaltung der EI-Schnittstellen verwenden die Forscher am häufigsten eine sequenzielle Informationsarchitektur (47,8%), bei der Informationen in einem linearen Ablauf präsentiert werden. Interaktive Schnittstellen, bei denen Nutzer Anweisungen geben können, sind am häufigsten (37,7%).
Bei der Bewertung der EI-Schnittstellen konzentrieren sich die Forscher am meisten auf die Effektivität des Gesamtsystems (37,7%), gefolgt von der Fähigkeit der Nutzer, Aufgaben zu erfüllen (26,4%). Andere Aspekte wie Kontrolle oder Reaktionsfähigkeit der Nutzer werden seltener bewertet.
統計資料
"Über 30% der Nutzer konnten die von XAI erzeugten Erklärungen nicht ausreichend gut verstehen, um sie selbst in relativ einfachen Aufgaben zu verwenden."
"Eine signifikante Gruppe von Nutzern (über 30%) konnte die von XAI erzeugten Erklärungen nicht ausreichend gut verstehen, um sie selbst in relativ einfachen Aufgaben zu verwenden."
引述
"Trotz technologischer Durchbrüche hat die Forschung zu erklärbarer Künstlicher Intelligenz (XAI) nur begrenzt Erfolg bei der Bereitstellung der von Nutzern benötigten effektiven Erklärungen."
"Um die Benutzerfreundlichkeit, praktische Interpretierbarkeit und Wirksamkeit von XAI-Systemen für echte Nutzer zu verbessern, konzentriert sich der aufstrebende Bereich der erklärbaren Schnittstellen (EI) auf die Benutzeroberfläche und das Benutzererlebnis-Design von XAI."