本論文は、人工知能モデルの不透明な決定を解釈するための新しい概念である「説明的マルチバース」を提案している。
説明的マルチバースは、事実的データ点から反事実的説明への経路の幾何学的関係を捉える。具体的には、経路の類似性、分岐、発散、収束などの特性を考慮する。これにより、単一の最適な経路を提示するのではなく、ユーザーに多様な選択肢を提供することができる。
提案手法には2つのアプローチがある。1つはベクトル空間を用いる方法で、データ密度や勾配に基づいて経路を表現する。もう1つは有向グラフを用いる方法で、事前定義された距離尺度に基づいてグラフを構築し、最短経路アルゴリズムを適用する。
これらの手法は、従来の反事実的説明に関する技術的・社会的要件を継承しつつ、新たに「エージェンシー」「機会損失」「選択の複雑さ」という3つの空間的な特性を導入する。これにより、ユーザーにとって意味のある探索と個別化が可能になる。
提案手法は、人間中心の説明可能性アジェンダを前進させ、反事実的思考のプロセスをより良く捉えることができる。また、説明の多様性を管理し、ユーザーの認知負荷を軽減するなどの利点がある。今後は、さまざまなデータドメインへの適用や、新たな空間的特性の発見などが期待される。
다른 언어로
소스 콘텐츠 기반
arxiv.org
더 깊은 질문