核心概念
AI決定支援ツールの不確実性の提示方法が、ユーザーの長期的な信頼と利用意向に影響を与える。
摘要
本研究は、AI決定支援ツールの不確実性の提示方法が、ユーザーの長期的な信頼と利用意向にどのように影響するかを調査したものである。
まず、パイロット調査を通じて、ギグドライバーの需要と収入の不確実性が大きいことを確認した。そこで、ギグドライバーを対象に、収益予測と最適なスケジュール提案を行うAI決定支援ツールを開発した。
その上で、51人のギグドライバーを対象に、4つの異なる不確実性の提示方法を比較する縦断的な実験を行った。その結果、以下の知見が得られた:
- ユーザーが予測値を実績と同等以上と認識した場合、ツールの信頼性が高まった。
- 同じ信頼度の場合でも、予測値を実績と同等以上と認識したユーザーの方が、ツールの利用意向が高かった。
- 予測値の提示に幅を持たせ、不確実性を可視化すると、信頼と利用意向が高まった。
- 予測値の提示に幅を持たせつつ、不確実性を控えめに表現すると、さらに信頼と利用意向が高まった。
インタビューからは、ユーザーの経験や期待値によって、ツールに対する評価が大きく異なることも明らかになった。したがって、AIシステムは一般的な設計ではなく、個々のユーザーの期待に合わせて信頼を醸成する必要があることが示唆された。
統計資料
予測値と実績の差が大きいほど、ユーザーの信頼度が低下した。
予測値を実績以上と認識したユーザーの信頼度は、そうでないユーザーに比べて有意に高かった。
引述
"予測値と実績が一致していると、ツールを信頼できると感じた。"
"予測値の幅を示してくれたので、ツールの不確実性がよくわかった。"
"予測値の表現に控えめな言葉を使っていたので、ツールを安心して使えた。"