人間の好みに基づく説明可能なエージェンシー

Core Concepts

人々が特定の文脈でどのような種類の因果関係情報が重要かを理解することが、単純または複雑な説明を好むかどうかに影響します。

Abstract

この研究では、人々が単純な説明と複雑な説明を好むかどうかを探るために、異なる因果関係情報の量を変化させました。結果として、一般的には複雑な説明が好まれる傾向がありました。しかし、背景知識や推論ルールによっても参加者の評価が異なりました。推論ルールを含めた説明は一貫性があり、参加者にとって理解しやすいことが示唆されました。 I. 導入 認知心理学における研究から、「単純対複雑」問題は文脈依存であることが確立されています。 本研究では、人工エージェントが決定や予測を人間に説明する際の「単純対複雑」問題を取り上げます。 II. 背景 Consensusシステムは何時・何処・何故・だれに基づいてクエリー応答をサポートします。 機械生成された証拠は通常、専門家でも解釈が困難です。 証拠の翻訳作業や抽象化手法について過去から多くの研究が行われてきました。 III. 問題定義 論理推論システムから得られた証拠トレースTを使用して「Why c?」という質問に回答するための層別化された説明を形成することです。 IV. 説明システム プルーフトレースから4種類の知識タイプ（伝えられた知識、背景知識、推論規則、推測された知識）を収集し、それらを使用して推測した結論のグラフ表現である「説明グラフ」を形成します。 3つの簡素化ルール（FL, FR, FK）を順番に適用してより単純（または複雑）な説明グラフ（G'）を生成します。 V. 研究デザイン 天候イベントおよび海洋領域（海事）2つのドメインで18シナリオ設計しました。 MTurk参加者123名および5名の業界専門家で実験実施しました。 VI. 結果 MTurk参加者111名で平均30分程度で実験完了しました。 参加者は一般的にExplanation 2（より複雑）を高く評価しました。 VII. 議論 参加者は一貫性ある説明や特定タイプの因果関係情報重視していました。 参加者は一般的により複雑な説明を好みます。ただし背景知識や共通センス情報も重要です。

Stats

「Research in cognitive psychology has established that whether people prefer simpler explanations to complex ones is context dependent」. 「We conducted a study with 123 participants from the general public and five industry experts over two domains: maritime patrol and weather prediction」.

Quotes

"Participants rated explanations based on the consistency of relationships among the causes; that is, explanation coherency". "People prefer complex explanations that involve more causal mechanisms to explain an effect".

Key Insights Distilled From

Explainable agency

by Michelle Blo... at arxiv.org 03-20-2024

https://arxiv.org/pdf/2403.12321.pdf

Deeper Inquiries

質問1

この研究結果から得られる洞察は他分野でも有効ですか？ この研究結果から得られる洞察は他の分野でも非常に有用であると言えます。例えば、人々が複雑な説明を好む傾向が示されたことは、情報科学や教育領域においても重要な示唆を与えます。情報システムや教育プログラムの設計において、適切なレベルの詳細性や抽象性を考慮する必要があります。また、因果関係情報の適切な取り扱い方も異なる文脈で役立つ可能性があります。

質問2

参加者が共通センス情報含む因果関係情報に否定的反応した理由は何ですか？ 参加者が共通センス情報を含む因果関係情報に否定的反応した理由は、その内容が当然のことであったり明白すぎたりして、説明全体に付加価値を感じさせなかったからだと考えられます。一般的知識や自明の事実を説明することで追加価値や理解度向上が見込めない場合、参加者はそれを冗長だと感じる可能性が高くなります。

質問3

十分な詳細性と抽象性バランス取った良い説明例はありますか？ 良い説明例では、「中庸」であることが重要です。具体的すぎず抽象的すぎず、ちょうどよいバランスで特定介入点を特定し不必要な詳細までは含まれておらず、「程よく抽象化された」説明形式です。これによって特定介入点の同定や区別方法等具体的指摘しつつも不必要詳細回避し目的物変更介入確保します。