Conceitos essenciais
Die Darstellung von Unsicherheit in den Ergebnissen beeinflusst das Vertrauen der Nutzer in KI-Entscheidungshilfen und ihre Bereitschaft, sich auf die empfohlenen Entscheidungen zu verlassen.
Resumo
Die Studie untersuchte, wie die Darstellung von Unsicherheit in den Ergebnissen das Vertrauen und die Nutzungsbereitschaft von Gig-Fahrern gegenüber einer KI-basierten Zeitplanempfehlungs-App über einen längeren Zeitraum hinweg beeinflusst.
Die Hauptergebnisse sind:
- Das Vertrauen der Nutzer hing davon ab, ob sie die Ergebnisse als genau oder ungenau wahrnahmen. Nutzer, die die Ergebnisse als genau wahrnahmen, hatten ein höheres Vertrauen.
- Unabhängig vom Vertrauen waren Nutzer eher bereit, sich auf die Empfehlungen zu verlassen, wenn sie die Ergebnisse als genau wahrnahmen.
- Das Präsentieren von Ergebnisschätzungen als Bandbreiten anstelle von Punktschätzungen erhöhte das Vertrauen und die Nutzungsbereitschaft, insbesondere wenn die Schätzungen sprachlich abgemildert wurden.
Die Studie zeigt, dass KI-Systeme das Vertrauen der Nutzer aufbauen müssen, indem sie über allgemeine Designs hinausgehen und die Erwartungen individueller Nutzer kalibrieren.
Estatísticas
"Wenn die Teilnehmer ihre Einnahmen als mindestens so hoch wie die Schätzungen des Tools wahrnahmen, waren ihre Vertrauenswerte signifikant höher (p = 0,020; μ = 3,701 vs. μ = 3,158)."
"Unabhängig vom Vertrauen waren Teilnehmer eher bereit, sich auf die Empfehlungen zu verlassen, wenn sie die Ergebnisse als mindestens so gut wie die Schätzungen des Tools wahrnahmen (p = 0,003; LMM-Mittelwerte μ = 0,625 vs. μ = 0,411; GLMM-Log-Odds μ = 0,390 vs. μ = -1,140)."
Citações
"Die Darstellung von Unsicherheit in den Ergebnissen beeinflusst das Vertrauen der Nutzer in KI-Entscheidungshilfen und ihre Bereitschaft, sich auf die empfohlenen Entscheidungen zu verlassen."
"KI-Systeme müssen das Vertrauen der Nutzer aufbauen, indem sie über allgemeine Designs hinausgehen und die Erwartungen individueller Nutzer kalibrieren."